実際にCaffeのnet.params [layer] .diffに格納されているものは？

Question

私はnet.params [layer] .diffがウェイト、すなわちnet.params [layer] .dataに対する損失関数の導関数でなければならないことを知っていますが、次の例では混乱します.3層（ip1 、ip2、ip3）完全に接続されたネット。

import caffe 
    caffe.set_mode_cpu() 
    import numpy as np 

    solver = caffe.SGDSolver('solver.prototxt') 
    solver.net.copy_from('iter_18000.caffemodel') 

    solver.net.forward() 
    solver.net.backward() 
    # the computed derivatives of ip3 
    # shape of ip3: (10, 300) 
    computed = np.dot(np.transpose(solver.net.blobs['ip3'].diff), solver.net.blobs['ip2'].data) 
    # actual derivatives of ip3 
    actual = solver.net.params['ip3'][0].diff 
    print np.count_nonzero(computed - actual) 

結果は2260です。誰か説明できますか？多くのthx。

Answer 1

解決済みです！ the computed derivatives of ip3はnp.dot(np.transpose(solver.net.blobs['ip3'].diff), solver.net.blobs['relu2'].data)である必要があります。つまり、私の例では、reluは余分なレイヤーです。