マルチレイヤーパーセプトロンのトレーニング例を作る

Question

ハード・スレッシュホールド・アクティベーション機能を正しく実装した特定のネットワークの重みとバイアスのセットを得るために、いくつかの訓練例を作ろうとしています。

• X_Iが他X_1 < X_2 < X_3 < x_4場合（ソート順）実数、及びネットワーク必須出力（Y 1）であり、そして0 4つの入力X_1、... x_4、 。

• ハードしきい値のアクティブ化機能。

F（z）= 1（IF Z> = 0）または0（もしZ < 0）

h1 = x1w11 + x2w12 + x3w13 + x4w14 + b11 

h2 = x1w21 + x2w22 + x3w23 + x4w24 + b21 

h3 = x1w31 + x2w32 + x3w33 + x4w34 + b31 

y = w1h1 + h2w2 + h3w3 + b (*Actually h1, h2, h3 are f(h1),f(h2),f(h3) because of activation function) 

そして、F（Y）。

Iは、例を訓練する

（-2、-1,0,1）でなければならない推測 - 0（>出力0 - >出力1、（0,0,0,0） 、0,0,1）→出力0, （1,2,3,4）→出力1

などです。 しかし、入力の領域が広すぎるため、多層知覚アルゴリズムを使用するための具体的な例が構築できません。

algorithmを適用する適切な例を教えてもらえますか？

Answer 1

いいえ、その広さではなく、各x_iの[0、1]の範囲に集中できます。いずれにしても、神経回路網を訓練するための正規化されたデータが必要です。

したがって、基本的に[0、1]の範囲に均一に分布した乱数を生成し、ソートされているかどうかを確認し、それに応じてラベルを生成することができます。次に、10Kか​​100Kの繰り返しをして、MLPを訓練するためのデータセットを持っています。 [0、1]の範囲を離散化し、選択したステップで数値を生成することもできます。