2017-03-25 17 views
0

私は現在、20を超えないトレーニング値の小さなデータセット、で働いています、と大きなMSEを取得しています。入力データベクトル自体は16個のパラメータで構成され、その多くはバイナリ変数です。すべてのトレーニング値にわたって、16個のパラメータの大部分は同じままです(ただしはすべてではありません)。残りの入力変数は、すべての標本にわたって、お互いの間で大きく異なります。つまり、2つの例は、それらが異なる2つのパラメータ、1つのパラメータは2進変数、もう1つは連続変数であることを除いて同じであるように見えるかもしれない。その差は単一の標準偏差変数の値の集合)。小さな、非常に変化するデータセットのためのニューラルネットワークの提案?

私の単一の出力変数(今のところ)は、連続変数でもよいし、私の状況でエラーを減らすのが本当に難しいかに応じて、これを分類の問題にすることもできます。

私はStochastic NN、Ladder NN、および多数の再発NNを読み込んでいるので、フィードフォワードMLPの現在の実装とは異なる神経ネットワークを研究しています。私はすべてのNNを試してみる時間がないので、私は調査しなければならないものに固執しています。

私の説明はあいまいかもしれませんが、私のコスト機能(現在のMSEなど)を最小限に抑えるためにどのネットワークを調査すべきか、誰でも提案することができますか?

私の現在の設定は、ネットワークが最も効果的であるような非常に異なるトレーニング値の小さなセットに対して正確な出力を予測することが困難であるため、レンダリングできない場合は、 (より重複して見かけ上均等な入力値の組を犠牲にして)?

すべてのヘルプは、最も確かに高く評価されています。

答えて

0

20個の入力変数がある場合は、特にサンプルが非常に小さいです。これらのインプットのどれがあなたのアウトプット価値を担うのかを判断することは難しいでしょう。ネットワークをシンプルにすると(少数のレイヤー)、伝統的な回帰に必要な数のサンプルを使用できます。