を私はそれがsigmoid
とtanh
活性化機能の両方を使用するオプションを提供しますthis blog- ニューラルネットワーク
から次codeで探しています。私はオンラインで見つけるとanother piece of codeでこれを試してみた(0.5,0.5,0.5,0.5)
〜
XORテストは〜(0,1,1,0)
を得tanh
機能が正常に動作するようです。しかしsigmoid
に変更すると、私は間違った出力を得ますまったく同じ問題が発生します。
唯一変化しているのは、起動機能(およびその派生物)だけです。これを変えるには、他の変化、例えば、逆伝播を必要としますか?
ありがとうございました!
シドモイド専用ネットワークのサイズを増やして、XORを学ぶことができることを確認しましたか? 2-10-1のような過酷なものを試してみてください。 tanh出力間隔 '[-1,1] 'は、Sigmoid出力レイヤーと組み合わせてXORをより速く収める傾向があります。シグモイドを使用しても、基礎となるバックプロパゲーションの計算は変更されません。 – jorgenkg