kerasの反復層でオプションの引数 "定数"は何をしますか？

Question

私はkerasを使ってカスタマイズされたシーケンスからシーケンスへのモデルを構築することを学んでおり、他の人が書いたコードを読んでいます。たとえばhereです。私は定数に関する呼び出しメソッドで混乱してしまった。ケラス"Note on passing external constants to RNNs"がありますが、私は定数が何をモデルにしているのか理解するのが面倒です。

私はattention modelとpointer networkの論文を読んだが、多分私は何かを逃した。

モデリングの詳細については、ご参考ください。前もって感謝します。

Answer 1

私はrecurrent.pyファイルのコードを調べました。私はget_constantsがドロップアウトマスクと再帰ドロップアウトマスクを取得していると思います。 [h、c]状態（これら4つの要素の順序は、LSTMステップ法で必要です）。その後も元のLSTMセルには関係しませんが、学習することはないという意味で独自の「定数」を1つのタイムステップから次のタイムステップに渡すことができます。すべての定数は、返された[h、c]状態に暗黙的に追加されます。 Keon's exampleでは、返された状態の5番目の位置は入力シーケンスであり、状態[-1]を呼び出すことによってすべてのタイムステップで参照できます。