TensorflowでのLSTMシーケンスの最終値の取得

Question

TensorflowでLSTMを使用して分類したい長さのシーケンスがあります。分類のためには、各シーケンスの最後のタイムステップのLSTM出力が必要です。

max_length = 10 
n_dims = 2 
layer_units = 5 
input = tf.placeholder(tf.float32, [None, max_length, n_dims]) 
lengths = tf.placeholder(tf.int32, [None]) 
cell = tf.nn.rnn_cell.LSTMCell(num_units=layer_units, state_is_tuple=True) 

sequence_outputs, last_states = tf.nn.dynamic_rnn(cell, sequence_length=lengths, inputs=input) 

私はnumpyの表記で、取得したいと思います：output = sequence_outputs[:,lengths]

はTensorflowでこの動作を取得する方法や回避策はありますか？

--- --- UPDATE

がこの投稿をHow to select rows from a 3-D Tensor in TensorFlow?に続き、それはtf.gatherとインデックスを操作すると効率的な方法で問題を解決することができるようです。唯一の要件は、バッチサイズを事前に知っていなければならないことです。ここでは、この具体的な問題への言及ポストの適応は次のとおりです。

max_length = 10 
n_dims = 2 
layer_units = 5 
batch_size = 2 
input = tf.placeholder(tf.float32, [batch_size, max_length, n_dims]) 
lengths = tf.placeholder(tf.int32, [batch_size]) 
cell = tf.nn.rnn_cell.LSTMCell(num_units=layer_units, state_is_tuple=True) 

sequence_outputs, last_states = tf.nn.dynamic_rnn(cell, 
                sequence_length=lengths, inputs=input) 

#Code adapted from @mrry response in StackOverflow: 
#https://stackoverflow.com/questions/36088277/how-to-select-rows-from-a-3-d-tensor-in-tensorflow 
rows_per_batch = tf.shape(input)[1] 
indices_per_batch = 1 

# Offset to add to each row in indices. We use `tf.expand_dims()` to make 
# this broadcast appropriately. 
offset = tf.range(0, batch_size) * rows_per_batch 

# Convert indices and logits into appropriate form for `tf.gather()`. 
flattened_indices = lengths - 1 + offset 
flattened_sequence_outputs = tf.reshape(self.sequence_outputs, tf.concat(0, [[-1], 
          tf.shape(sequence_outputs)[2:]])) 

selected_rows = tf.gather(flattened_sequence_outputs, flattened_indices) 
last_output = tf.reshape(selected_rows, 
          tf.concat(0, [tf.pack([batch_size, indices_per_batch]), 
          tf.shape(self.sequence_outputs)[2:]])) 

@petruxオプション（Get the last output of a dynamic_rnn in TensorFlow）が動作するようにも思えるが、私はしなかったものの、forループ内のリストを構築する必要性が少なく、最適化することができますこのステートメントをサポートするためのベンチマークを実行してください。

Answer 1

Thisが回答になる可能性があります。あなたが指摘したNumPy表記法に類似したものはないと思いますが、その効果は同じです。

Answer 2

ここには、gather_ndを使用するソリューションがあります。バッチサイズを事前に知っておく必要はありません。

今

def extract_axis_1(data, ind): 
    """ 
    Get specified elements along the first axis of tensor. 
    :param data: Tensorflow tensor that will be subsetted. 
    :param ind: Indices to take (one for each element along axis 0 of data). 
    :return: Subsetted tensor. 
    """ 

    batch_range = tf.range(tf.shape(data)[0]) 
    indices = tf.stack([batch_range, ind], axis=1) 
    res = tf.gather_nd(data, indices) 

    return res 

output = extract_axis_1(sequence_outputs, lengths - 1) 

output次元[batch_size, num_cells]のテンソルです。