複数の出力ニューロンを持つニューラルネットワークの逆伝播

Question

現在、このチュートリアルhttp://stevenmiller888.github.io/mind-how-to-build-a-neural-network/ニューラルネットワークの構築に従っています。しかし、私はバックプロパゲーションセクションで混乱しています。複数の出力ニューロンがある場合、私は何をすべきですか？その後、エラーの複数の出力合計マージン

Delta output sum = S'(sum) * (output sum margin of error) Delta output sum = S'(1.235) * (-0.77) Delta output sum = -0.13439890643886018

Answer 1

があるかもしれないので、ニューラルネットワークの出力は、多くの場合、ベクター（複数のニューロン）です。一般的に言えば、出力ベクトルを実数にマッピングする損失関数を定義することです。例えば、MSE（Mean Square Error）は、2番目のノルム（出力ベクトルとラベルベクトルの間のユークリッド距離）をロス値として使用する単純な選択です。 次に、バックプロンプト中に以前のように派生物を取ることができます。唯一の違いは、今ではベクトル関数の偏微分（多変量関数）を取るべきことです。