2017-04-30 17 views
0

大学への取り組みの一環として、基本的には、与えられたレイヤーの入力と出力の間のコントラストの測度に基づいてMLPをレイヤー単位で訓練する訓練手順を実装する必要があります。入力と出力の間のコントレンピー

私は正常にコントラストに関連するコードのいくつかをhttps://github.com/pdoren/DeepEnsemble/blob/master/deepensemble/utils/utils_functions.py#L238-L264https://github.com/pdoren/DeepEnsemble/blob/master/deepensemble/utils/cost_functions.py#L210-L237に見つけました。ただし、サンプルが同じサイズの場合にのみ、このコードを使用することができます。

私の質問は次のとおりです。TheanoのMLPレイヤの入力と出力の間にどのようにして計算をすることができますか?

+0

あなたがクロスエントロピーをしたいか、なぜ私は理解していません入力と出力の間にあり、出力と地面の間ではありません。 – Feras

答えて

0

(1)コントラストはクロスエントロピーと同じではありません。これは、局所的にMSEまたはクロスエンティティの望ましい特性を有するが、それらの距離に比例してアウトライアを正則化する際に、全体的にL1/0特性を有する。 (2)フォローアップの質問者は、入力から出力への誤差メトリックを計算するのではなく、現実からの出力(実際の遠方からの予測がどのように予測されるか)を計算するのは正しいです。

Kerasでは、独自の目的関数/距離メトリックを作成できます。私はまだこれらを実装しますが、私はkerasにおける目的関数としてcorrentropy使用してコードを探しに行ったときに、これらが見つかっていない。

https://github.com/EderSantana/seya/blob/master/seya/regularizers.py

https://github.com/EderSantana/seya/blob/master/seya/objectives.py

+1

FYI:このサイトの質問と回答には、実際に外部リンクを参照する必要なしに完全に理解できるコード例があるべきです。 – Bobby