はnumpyの

Question

に私はnumpyの中で、以下の機能を実現していEXPのためのオーバーフローエラーの回避：

def weak_softmax(a): 
    b=np.exp(a) 
    return b/(1+np.sum(b)) 

配列aのサイズが小さいですが、エントリは時々1000として多分同じ大きさ、大きなものとなります。だから私は、理由は指数関数でオーバーフローの非常に多くの場合、次のエラーが発生します：

a=np.array([1000,1000]) 
a=weak_softmax(a) 

上記のコードはベクトルa=[nan nan]を返すと、次の警告発生します

Warning: overflow encountered in exp 

をする任意の巧妙な方法はありますこの問題を回避しても、配列bを意図した通りに返していますか？これは、bのすべてのエントリが1つしかないためです。私は、この問題をいくつかのトリックを使用して回避することが可能でなければならないと感じています。

Answer 1

分子と分母を適切なサイズのcの同じ因子exp(c)で単純に分けることができます。

次のコードでは、np.finfoを使用してオーバーフローが発生するかどうかを確認し、cを計算します。

def modified_soft_max(a, SAFETY=2.0): 
    mrn = np.finfo(a.dtype).max # largest representable number 
    thr = np.log(mrn/a.size) - SAFETY 
    amx = a.max() 
    if(amx > thr): 
     b = np.exp(a - (amx-thr)) 
     return b/(np.exp(thr-amx) + b.sum()) 
    else: 
     b = np.exp(a) 
     return b/(1.0 + b.sum())