2017-02-03 4 views
1

これはNN 101でカバーされているような気がしますが、答えが覚えていないので、Web上で答えが見つからないようです。ニューラルネットワークをトレーニングする場合は、すべてのトレーニングデータを一度にネットワークに渡す必要がありますか?

私は80項目のテストセットと20項目のテストセットがあります。私はニューラルネットワークの重みと偏りを初期化し、データの一般的な傾向を理解するためにネットワークを訓練する準備が整いました。

ドI:

a)は、一度ネットワークにすべての80個のアイテムを渡して、エラーを見つけ、勾配の方向に重みとバイアスを調整するためにバックプロパゲーションを使用して、誤差が十分に小さくなるまで繰り返します。

又は

b)は、ネットワークに1つのアイテムを渡し、エラーを見つける、勾配の方向に重みとバイアスを調整するバックプロパゲーションを使用し、他の79の項目について繰り返し、再度プロセスを開始します項目1からエラーが十分に小さくなるまで。

を入力するか、1〜80の数値を選択します。

私のウェブ検索では、オンラインとバッチのトレーニングと呼ばれるものが見つかりました。これに関連すると感じていますが、完全にはわかりません。ある方法を他の方法よりも選択する利点がありますか?

答えて

0

[everyone]オプションを選択しました。すべてのサンプルに合格し、バッチ学習を行うのに適応するよりも、皆さんがミニバッチ学習をサンプルした後に適応すれば、私の先生は確率的勾配降下アプローチを使って私に推薦します。

長所と短所の両方のあなたはミニバッチ学習を行って、データセットの一部の後に適応し使用した場合、うまく、またSG vs BL

が説明されています。このアプローチでは、問題のあるデータセット部分のサイズが問題になります。

関連する問題