Pytorchで複数のメモリセルブロックを持つLSTMを実装しようとしています - 複数のLSTMユニット、つまりLSTMユニットはメモリブロックとそのゲートのセットです - 層ごとですが、基底クラスtorch.nn.LSTM
はPytorchのメモリブロックごとに複数のセルを持つLSTMレイヤを実装する方法は?
lstm = torch.nn.LSTM(input_size, hidden_size, num_layers)
(Pytorchのドキュメントから):層ごとにLSTM部を有する多層LSTM
input_size
はhidden_size
が隠さSTで、ネットワークの入力寸法であります各層(すなわち、すべての層の寸法)、num_layer
がネットワーク上から
すると、の層の数であり、各LSTMユニット(各LSTMユニットのセルの状態は、したがってスカラーである)正確に一つのセルを有しますなぜなら、各層について、セル状態の次元は、隠れ状態の次元(すなわち、hidden_size
)に対応するからである。 Hochreiterとシュミット によって提案元LSTMモデル[1997]におけるしかしながら
、各LSTMブロック/ユニットができるが、いくつかの細胞を含む: LSTM Network [Hochreiter, 1997]
はそうするが方法はありますか?