α-LMSアルゴリズムの設定問題

Question

私は、MNISTデータセットの分類子を作るためにα-LMSアルゴリズムを使用しています。予測出力が所望の出力と一致し、ここで重みが更新される方法ですしていない場合、私は唯一の重みを更新

：

私は残留誤差が（上がるし、精度）下がることを期待それぞれの反復で（私はしないでください）。

全体の精度は上がっているように見えますが、一部の反復ではアルゴリズムが元に戻ります。

私は挫折は、このアルゴリズムでは、それがなぜそうである場合に発生することが正常であるかどうかを知る必要がありますか？

Answer 1

データを式で表すことができる場合は、その式を見つけることが可能です。 アルゴリズムが必要な場合（式なし）、収束と正確さの速度はデータに大きく依存します。複数のデータセットを使用できる場合は、異なるグラフが表示されます。