Pyamer3のTheanoカスタムOp

Question

"Opano引数に不正な引数がある"というカスタムOpを実装しようとしました。ここにコードがあります。私が理解している問題は、PyMC3変数をtheano理解可能な型に変換する方法です。

import numpy as np 
import theano 
import theano.tensor as t 
from theano import config 
config.compute_test_value = 'off' 

#true_Data = [1,2] 
#values=[] 

class trial_Op(theano.Op): 
    __props__ =() 
    itypes = [t.dmatrix, t.dmatrix, t.dmatrix] 
    otypes = [t.dmatrix] 

    def perform(self,node,inputs,output_storage): 
     x0 = inputs[0] 
     x1 = inputs[1] 
     x2 = inputs[2] 
     z = output_storage[0] 
     z[0] = np.add(x0,x1) 
     z[0] = np.add(z[0],x2) 

    def grad(self,inputs,output_grads): 
     return output_grads[0] 
Trial_Op = trial_Op() 

x1 = t.dmatrix() 
x2 = t.dmatrix() 
x3 = t.dmatrix() 
f = theano.function([x1,x2,x3], trial_Op()(x1,x2,x3)) 

# the Op works for the 
#inp1 = np.random.rand(3,1) # a 2d matrix 
#inp2 = np.random.rand(3,1) # a 2d matrix 
#inp3 = np.array([[-40]])    # a constant 
#print("Op application gives = ", f(inp1,inp2,inp3)) 


import pymc3 as pm 
true_Data = [[1]] 

with pm.Model() as model: 
    x1 = pm.Normal('x1', mu = 0, sd = 0.1) 
    x2 = pm.Normal('x2', mu = 3, sd = 0.5) 
    x3 = np.asarray([[4]], dtype='float64') 
# x1 = x1.reshape(1,1) 
# x2 = x2.reshape(1,1) 
    sum_of_x1_x2_x3 = f(x1,x2,x3) 
    z = pm.Normal('z', sum_of_x1_x2_x3, observed = true_Data) 
    start = {'x1':[[0.1]], 'x2':[[0.1]]} 
    step = pm.Metropolis() 
    trace = pm.sample(100, step, start) 

pm.traceplot(trace) 

Answer 1

私はあなたの質問に答えることができると思います。

最初にf = theano.function([x1,x2,x3], trial_Op()(x1,x2,x3))を使用しないでください。それが定義されると、fは数値を引数として取ります。しかし、pymc3モデルではx1とx2はNormalと定義されていますが数値ではありませんが象徴的です。だから、直面したエラーを投げます。チュートリアルに記載されている@as_opメソッドに精通している方は、解決方法は簡単です。sum_of_x1_x2_x3 = f(x1,x2,x3)をsum_of_x1_x2_x3 = Trial_Op(x1,x2,x3)に変更してください。

第2のは、あなたのコードでは、dmatrixタイプは必要ないようです。 otypesはz = pm.Normal('z', mu = mu, sd = 1., observed = true_Data)でmuを満足させるdvectorで、カスタム関数で

N = 20 #data array length 

class Trial_Op(theano.Op): 
    __props__ =() 
    itypes = [t.dscalar, t.dscalar] 
    otypes = [t.dvector] #if the data has multiple values i.e. data array 

    def perform(self,node,inputs,output_storage): 
     x0 = inputs[0] 
     x1 = inputs[1] 

     f = np.add(x0,x1) 
     out = np.empty(N) 
     out[:] = f 
     z = output_storage[0] 
     z[0] = out 


trial_Op = Trial_Op() 


import pymc3 as pm 
true_Data = np.random.normal(2,1,N) 

with pm.Model() as model: 
    x1 = pm.Normal('x1', mu = 0, sd = 0.1) 
    x2 = pm.Normal('x2', mu = 3, sd = 0.5)  

    mu = trial_Op(x1, x2) 
    z = pm.Normal('z', mu = mu, sd = 1., observed = true_Data) 

    step = pm.Metropolis() 
    trace = pm.sample(10000, step) 

pm.traceplot(trace) 

注：私は、次のコードを変更します。そして数は結果画像を10000に拡大サンプルは示しています

result

しかし、私はカスタムtheano機能にgrad()メソッドを定義する方法がわかりません。多分、後で誰かがモデルでNUTSのサンプリング方法を有効にするためにそれを解決することができます:)。