テンソルフローのバッチ正規化が正確に実装されていないのはなぜですか？正確に推論相</strong>で<strong>バッチの正規化によって行われる何

Question

は人口各層を正規化することである意味、推定母分散

しかし、それは用途（this oneと公式tensorflow implementationを含む）すべてのtensorflow実装を思わ（指数関数）移動平均と分散。

私を許してください、なぜ私は理解できません。それは移動平均を使用するだけでパフォーマンスが向上するからですか？純粋な計算速度のために？

Refercence：サンプルの平均ためthe original paper

Answer 1

正確な更新規則は、サンプルサイズを逆数に等しいステップとだけ指数の平均です。したがって、サンプルサイズがわかっている場合は、減衰係数を1/nに設定します。nはサンプルサイズです。しかし、減衰係数は、通常、このような減衰速度での指数関数的な平均化は、特に大規模なデータセットでは、平均と分散の非常に近い近似を提供するので、1に非常に近い値を選ぶと問題になりません。