KerasのLSTMで予測するとき、隠れた状態はまだ調整されていますか？

Question

トレーニングデータ - のシーケンスデータでKerasのLSTMを最初にトレーニングした後、入力としてテストデータを使用して予測を行う場合、まだ調整されていないLSTMの非表示状態ですか？

Answer 1

ニューラルネットワークの基本的な操作は、出力に接続で接続された入力（ベクトル）を取得し、コンテキスト層などの他の層を接続することです。これらの接続は行列としてモデル化され、強度が異なります。これらは重み行列と呼ばれます。

これは、データをネットワークに供給するときに行う唯一のことは、ベクトルをネットワークに入れ、その値に重み行列を掛けて出力を呼び出すことです。再帰的なネットワークのような特殊なケースでは、他のベクトルに格納された値を保持し、この格納された値を現在の入力と組み合わせることさえあります。

トレーニング中は、データをネットワークに送り込むだけでなく、わかりやすく評価するエラー値を計算して、入力値を乗算する方法を教えてくれます。反復層）を有する。

したがって、はいもちろん、基本的な実行動作は反復レイヤーで変更されません。私たちはもう重みを更新していません。

実行時に動作が異なるレイヤーは、正規化されたものとして扱われるため、実行中に不要とみなされるネットワークをより効率的にトレーニングする方法です。これらの層の例は、NoiseおよびBatchNormalizationである。ほとんどすべてのニューラルネットワークレイヤ（反復レイヤを含む）には、レイヤ内のランダムな割合の接続を無効にする別の形式の正規化であるドロップアウトが含まれます。これはまた、トレーニング中にのみ行われます。