2017-05-20 18 views
0

私は、-max _i x_i要素に足してsoftmaxを安定させる方法を知っています。これにより、オーバーフローやアンダーフローが回避されます。 これを記録すると、アンダーフローが発生する可能性があります。 log softmax(x)はゼロに評価され、無限大に至る。Logsoftmaxの安定性

私はそれを修正する方法がわかりません。私はこれが共通の問題であることを知っています。私はそれについていくつかの答えを読んだが、私は理解していなかった。しかし、私はまだこの問題を解決する方法について混乱しています。

PS:簡単な例を提供していただければ、素晴らしいものになります。

答えて