マルチラベル分類のためのハミング損失の勾配計算

Question

私はいくつかのリカレントニューラルネットワーク構造を使用してマルチラベル分類を行っています。私の質問は、損失関数についてです：私の出力は、各ラベルのクラスを示すtrue/false（1/0）値のベクトルになります。多くのリソースは、ハミング損失が適切な目的であると述べています。しかし、ハミング損失は、勾配計算に問題があります。 H =平均（y_true XOR y_pred）、XORは損失の勾配を導出できません。それで、マルチラベル分類の訓練のための他の損失関数がありますか？私は個々のシグモイド入力でMSEとバイナリクロスエントロピーを試みました。

Answer 1

H =平均（y_true×（1-y_pred）+（1-y_true）* y_pred）

ハミング損失の連続的近似です。