Tensorflow TrainingHelperは、デコードに使用されたボキャブサイズをどのように知っていますか？

Question

vocabのサイズを教えないと、デコーダはどのようにセルの状態をボキャブにマッピングするのですか？

cell = # instance of RNNCell 

if mode == "train": 
    helper = tf.contrib.seq2seq.TrainingHelper(
    input=input_vectors, 
    sequence_length=input_lengths) 
elif mode == "infer": 
    helper = tf.contrib.seq2seq.GreedyEmbeddingHelper(
     embedding=embedding, 
     start_tokens=tf.tile([GO_SYMBOL], [batch_size]), 
     end_token=END_SYMBOL) 

decoder = tf.contrib.seq2seq.BasicDecoder(
    cell=cell, 
    helper=helper, 
    initial_state=cell.zero_state(batch_size, tf.float32)) 
outputs, _ = tf.contrib.seq2seq.dynamic_decode(
    decoder=decoder, 
    output_time_major=False, 
    impute_finished=True, 
    maximum_iterations=20) 

GreedyEmbeddingHelperは、次の時間ステップに入力する最も確からしいsample_idを選択した場合、それはされていなければならない、ARGMAXする上寸法[lstm_hidden_size, vocab_size]の重み行列を使用する必要がありそう：TFダイナミック復号docsのコードサンプルがありますトレーニング中に学んだ。しかし、私たちはTrainingHelperにvocabのサイズを教えていませんでした。では、このテンソルがどこにないのでしょうか？

Answer 1

vocab_sizeは、cellオブジェクトのoutput_sizeプロパティによって決まります。実際、TrainingHelperによって生成されたsample_idsは、セルの出力を取り、argmax（code here）を出力します。 GreedyEmbeddingHelperも同じです。後者の場合、embeddingと一致するのはcellのoutput_sizeです。