サブグラディエントの合計または平均？SGLケージ

Question

マルチパーセプトロンを使用しているときのKerasのミニバッチのグラジエントをどのように計算したのですか？答えを見つけることはできません。私は各ミニバッチの勾配の平均が重みと偏りを更新するために使用されるのか、それとも勾配の合計であるのか疑問に思っていますか？

誰かが答えを知っていて、可能であれば私がこの情報をどこに見つけることができるか教えてくれたら分かりますか？

Answer 1

私は、損失の平均値または損失の合計のいずれかを意味するが、平均/勾配の合計ではないと思う。 そして、私は勾配を計算するのに損失の平均を使うのはいつも安全だと思います。