gpu用のseluアクティベーション機能を実装するより良い方法はありますか？

Question

だから私はこのpaperからtheanoにselu活性化を実装しようとしています。 私の現在の実装は次のようになります。

def selu(x):                  
    alpha = 1.6733                
    lambda_ = 1.0507                
    inds = x <= 0                
    selu = (alpha * theano.theano.tensor.exp(x) - alpha)       
    x = theano.tensor.set_subtensor(x[inds.nonzero()],selu[inds.nonzero()])   
    x = lambda_ * x                
    return x 

残念ながら、私はそれを自分自身を実装しようと約行ってきたので、人気のあるフレームワークKerasを使用「することはできません」。 私はgpuの機能をフレンドリーにするために必要な技術に慣れていないので、私は助けを求めています。ありがとう！

Answer 1

それははるかに速く解決策は以下の通りですターン：

import theano                 
def selu(x):                  
    alpha = 1.6733                
    lambda_ = 1.0507                
    return lambda_ * theano.tensor.nnet.elu(x, alpha=alpha)