keras.fit（）はウェイトを再初期化します

Question

私はmodel.fit()を使用して訓練されたモデルを持ち、model.save()を使用して物理ファイルに保存しました。今、保存されたモデルでトレーニングを再開する別のデータセットがあります。しかし、私はすべてのfit()呼び出しが新鮮なトレーニングと見なされていることがわかりました。つまり、以前に生成されて保存された重みを再初期化しています。

私がfit()をエポック0で呼び出すと、重量リセットの問題が表示されません。しかし、私は間違いなくエポック> 0で試してみたいと思っています。

ここに何かが見つからないか、それともケラスの問題ですか？

ケラスバージョン：2.0.3

ありがとう。

Answer 1

コールフィッティングは、ウェイトを再初期化すべきではありません。

あなたは新しいデータセットを使用していると書いてあります。このデータセットが異なる統計を持つと、ネットが簡単に精度を失うことがあります。これが当てはまる場合、最初の数エポックの間に初期の層については、非常に小さな学習率を試してみるか、trainable = Falseに設定してください。実際

Answer 2

からfitを呼び出すの場合は以下の通りです：

1. ウェイトがをリセットされません - あなたのモデルがfitを呼び出す前とまったく同じ重みを持っているでしょう - もちろん、最適化アルゴリズムのウォンまで」最初のバッチ中にそれらを変更しないでください。

2. モデル状態がリセットされます - これはおそらくあなたが遭遇したシナリオです。すべてのオプティマイザ状態とモデル隠れ状態（特にrnnの場合）がリセットされます。これは変更された唯一のものです。これらの値を保持したい場合（特にオプティマイザの状態は多くの場合非常に重要です）、モデルの状態にまったく影響しないtrain_on_batchメソッドを使用できます。