2016-05-15 2 views
1

ニューラルネットワークのEPOCHとは何ですか?ニューラルネットワークのEPOCHとは何ですか?

EPOCHの定義が必要です。

EPOCHは重みを更新することです。

どのように動作しますか?

「トレーニングデータ(入力データ)」を変更しますか?

「デルタルール(アクティベーション機能)」を変更しますか?

http://pages.cs.wisc.edu/~bolo/shipyard/neural/local.html

+1

この投稿には関連情報がいくつかあります:http://stackoverflow.com/questions/4752626/epoch-vs-iteration-when-training-neural-networks – Aenimated1

答えて

6

これは、勾配降下を持つニューラルネットワークを訓練のコンテキストでいます。確率的またはミニバッチの勾配降下を使用して通常NNを訓練するので、すべての訓練データが各反復ステップで使用されるわけではありません。

確率的およびミニバッチ勾配降下は、各繰り返しでbatch_size数のトレーニングサンプルを使用するため、すべてのデータを使用してトレーニングし、データセットの最初からやり直すことができます。

1つのエポックがトレーニングセット全体を1回通過することを考慮すると、すべてのデータをNNに表示してから再開するまで、勾配降下の更新が複数回繰り返されることを意味します。

+0

1回のパスで何ができますか?まったく同じトレーニングデータを使用している場合、なぜ複数のパスが必要ですか?私は1つのパスが勾配降下からの最小誤差を見つけると思った。 – mskw

+0

@mskw勾配降下は反復アルゴリズムであり、1回の反復で最小値を検出しません。 –

+0

エポックは勾配降下とは関係がありますか? – mskw

0

Epochesは、シングルパススルー全体訓練データセットです。 従来のGradient Descentは、特定のエポック数のトレーニングデータセット全体のパラメータに関する損失関数の勾配を計算します。

+0

シングルパスとは?何のシングルパス? – mskw

+0

最初のレイヤーからすべてのニューロンを1回パスしてから隠れレイヤーと最後の/出力レイヤーを1回パスします。 – Naren

+0

?それは単一パスと同じくらい曖昧です。あなたは単一の勾配降下反復を意味しますか? – mskw

関連する問題