グラデーションのためにニューラルネットワークがトレーニングを停止するのはなぜですか？

Question

私はニューラルネットワークを訓練しており、勾配の停止条件のために訓練を停止しました。私が見ることができるものから8.14e ^-0.6は最小勾配1e ^-0.5よりも大きいので、なぜそれが停止しましたか？グラデーションが改善されていないので、少しポイントが続いていたのでしょうか？

私は非常にニューラルネットワーク（MATLABのnntoolを使用しています）に慣れていますので、どんなヘルプ/説明も高く評価されます。

Answer 1

これは、ニューラルネットワークの問題ではない、それは理解浮動小数点表現の問題である：

8.14e-06 = 8.14×10^-6 = 0.00000814 < 0.00001 = 1.0×10^-5 = 1e-05