Kerasのカスタマイズされた損失の実装ケラスのラベル

Question

としての内部層出力を必要とする関数は、入力として（y_true、y_pred）だけでなく、内部層からの出力を使用する必要がある私の損失関数をカスタマイズしたいネットワークは出力レイヤーのラベルとして使用されます。この図は、

を示しています。ここで、内部出力は1D特徴ベクトルであるxnです。右上隅の出力はxn 'であり、xnの予測値である。つまり、xnはxn 'のラベルです。

[Ax、Ay]は伝統的にy_trueとして知られており、[Ax '、Ay']はy_predです。

これらの2つの損失コンポーネントを1つにまとめ、ネットワークを共同してトレーニングしたいと考えています。

アイデアや考えは大変ありがとうございます。

Answer 1

まず、Functional APIを使用してください。次に、ネットワーク出力を出力に加えて内部レイヤーからの結果として定義し、連結して単一の出力にマージし、次にマージされた出力を2つの部分に分割して損失計算を行うカスタム損失関数を作成する必要がありますそのままで。

ような何か：私は道を考え出した

def customLoss(y_true, y_pred): 
    #loss here 
    internalLayer = Convolution2D()(inputs) #or other layers 
    internalModel = Model(input=inputs, output=internalLayer) 
    tmpOut = Dense(...)(internalModel) 
    mergedOut = merge([tmpOut, mergedOut], mode = "concat", axis = -1) 
    fullModel = Model(input=inputs, output=mergedOut) 

    fullModel.compile(loss = customLoss, optimizer = "whatever") 

Answer 2

は、誰もが同じを探している場合には、私は（この記事では、特定のネットワークに基づいて）ここに掲載：

考えられるのは、カスタマイズされた損失関数を定義し、それをネットワークの出力として使用することです。 （表記：Aは変数Aの真のラベルであり、そしてA'は、変数Aの予測値である）ご返信用

def customized_loss(args): 
    #A is from the training data 
    #S is the internal state 
    A, A', S, S' = args 
    #customize your own loss components 
    loss1 = K.mean(K.square(A - A'), axis=-1) 
    loss2 = K.mean(K.square(S - S'), axis=-1) 
    #adjust the weight between loss components 
    return 0.5 * loss1 + 0.5 * loss2 

def model(): 
    #define other inputs 
    A = Input(...) # define input A 
    #construct your model 
    cnn_model = Sequential() 
    ... 
    # get true internal state 
    S = cnn_model(prev_layer_output0) 
    # get predicted internal state output 
    S' = Dense(...)(prev_layer_output1) 
    # get predicted A output 
    A' = Dense(...)(prev_layer_output2) 
    # customized loss function 
    loss_out = Lambda(customized_loss, output_shape=(1,), name='joint_loss')([A, A', S, S']) 
    model = Model(input=[...], output=[loss_out]) 
    return model 

    def train(): 
     m = model() 
     opt = 'adam' 
     model.compile(loss={'joint_loss': lambda y_true, y_pred:y_pred}, optimizer = opt) 
     # train the model 
     ....