1
私はそのことについて知りたいです BPニューラルネットの重みをゼロに初期化すると、誤差関数(鞍点、極大、極小、..)はどのタイプになりますか? それを数学的に推論したいニューラルネット(BP)の重みをゼロに初期化するとき、この時点での誤差関数は何ですか?
私はそのことについて知りたいです BPニューラルネットの重みをゼロに初期化すると、誤差関数(鞍点、極大、極小、..)はどのタイプになりますか? それを数学的に推論したいニューラルネット(BP)の重みをゼロに初期化するとき、この時点での誤差関数は何ですか?
初期ウェイトがゼロの場合、ニューラルネットワークはローカルミニマムで停止することがあります。それらがすべてゼロであれば、それらに多くの異なる開始値を与えることはできません。
私は、逆伝播と最初の重みについての読書をお勧めしますhere。
編集:あなたのコメントに既に述べたように、それは確かに鞍点です。バックプロパゲーションベースのアルゴリズムは通常、すぐに停止します。
私はBPを完全に知っていますが、あなたは私の質問を理解していないと思います。 ニューラルネットの重みをゼロに初期化するときにエラー関数について質問しました。 私はいくつかの記事を読むと、それは鞍点にあると言いました! 私はそれが地方の極小で固まって、ランダムな小さな体重を使用しなければならないことを知っています。 – Mahdi