Tensorflowの可変範囲の問題

Question

def biLSTM(data, n_steps): 


    n_hidden= 24 
    data = tf.transpose(data, [1, 0, 2]) 
    # Reshape to (n_steps*batch_size, n_input) 
    data = tf.reshape(data, [-1, 300]) 
    # Split to get a list of 'n_steps' tensors of shape (batch_size, n_input) 
    data = tf.split(0, n_steps, data)  

    lstm_fw_cell = tf.nn.rnn_cell.BasicLSTMCell(n_hidden, forget_bias=1.0) 
    # Backward direction cell 
    lstm_bw_cell = tf.nn.rnn_cell.BasicLSTMCell(n_hidden, forget_bias=1.0) 

    outputs, _, _ = tf.nn.bidirectional_rnn(lstm_fw_cell, lstm_bw_cell, data, dtype=tf.float32) 


    return outputs, n_hidden 

私のコードでは、この関数を2回呼び出して2つの双方向LSTMを作成しています。それから、変数を再利用するという問題があります。これを解決するには

ValueError: Variable lstm/BiRNN_FW/BasicLSTMCell/Linear/Matrix already exists, disallowed. Did you mean to set reuse=True in VarScope?

私は、これは新しい問題に

ValueError: Variable lstm/BiRNN_FW/BasicLSTMCell/Linear/Matrix does not exist, disallowed. Did you mean to set reuse=None in VarScope?

を率いwith tf.variable_scope('lstm', reuse=True) as scope:

内の関数でLSTM定義を追加これに対する解決策を支援してください。

Answer 1

BasicLSTMCell（）を作成すると、フードの下にLSTMセルを実装するために必要なすべての重みとバイアスが作成されます。これらの変数はすべて自動的に名前が割り当てられます。同じスコープ内で関数を複数回呼び出すと、エラーが発生します。あなたの質問は2つの別々のLSTMセルを作成したいと述べているように見えるので、変数を再利用したくはありませんが、別のスコープでそれらを作成したいと思います。これを2つの異なる方法で行うことができます（私は実際にこのコードを実行しようとはしませんでしたが、うまくいくはずです）。それはへのアプローチあなたのコーディングの感性次第ですあなたは

 
def biLSTM(data, n_steps): 
    ... blah ... 

with tf.variable_scope('LSTM1'): 
    outputs, hidden = biLSTM(data, steps) 

with tf.variable_scope('LSTM2'): 
    outputs, hidden = biLSTM(data, steps) 

ユニークな範囲内から、あなたの関数を呼び出すことができます。また、関数に独自のスコープ名を渡すと

 
def biLSTM(data, n_steps, layer_name): 
    ... blah... 
    with tf.variable_scope(layer_name) as scope: 
     lstm_fw_cell = tf.nn.rnn_cell.BasicLSTMCell(n_hidden, forget_bias=1.0) 
     lstm_bw_cell = tf.nn.rnn_cell.BasicLSTMCell(n_hidden, forget_bias=1.0) 
     outputs, _, _ = tf.nn.bidirectional_rnn(lstm_fw_cell, lstm_bw_cell, data, dtype=tf.float32) 
    return outputs, n_hidden 

l1 = biLSTM(data, steps, 'layer1') 
l2 = biLSTM(data, steps, 'layer2') 

内のスコープを使用することができます彼らは機能的にはほとんど同じです。