テンソルフロー内の勾配を積算する

Question

バックプロパゲーションを実行する前にテンソルフロー内の異なるバッチの勾配を蓄積しようとしています。 10個のサンプルでそれぞれ10個のバッチがあり、それらをニューラルネットに入力してみましょう。バッチのそれぞれについて、グラデーションを取得してそれらを合計し、合計グラディエントでバックプロパゲーションを実行したいと考えています。

誰も簡単な方法を知っていますか？現在、私はグラデーションを得て外からそれらを集計していますが、これが最良の方法ではないと私は考えています。

Answer 1

バッチのグラディエントを変数に追加してから、その変数の値をグラデーションとして使用して更新を適用することができます。