オクターブ単位で整流された線形単位を実装します。

Question

function g = relu(z) 

a=z>0; 
g=z.*a; 

end 

zは、スカラー、行列またはベクトルです。上の実装が正しいか、[整流されたリニアユニット] ReLUをオクターブで実装する優れた方法があります。

も親切誘導体は、適切

function g = relugradient(z) 

g= (z>=0); 

end 

Answer 1

であれば、私は

function r = relu (z) 
    r = max (0, z); 
endfunction 

を使用するであろう。しかし、あなたのバージョンが同じを返す必要が言います。誘導体は大丈夫です...大きなベクトルや行列との両方のベンチマークに

を試してみてくださいアドバイスを