2
L2プーリングを使用する1つのCNNアーキテクチャを実装しようとしています。参考文献は特に、L2プーリングが最大プーリングよりも優れていると主張しているので、tanh活性化機能の後にL2プーリングを試してみたいと考えています。TensorflowでL2プーリングを使用するには?
ただし、Tensorflowはtf.nn.ave_pool/tf.nn.max_pooling/tf.nn.max_pool_with_argmaxのみを提供するようです。
TensorflowでL2プーリングを実装する方法はありますか?
conv = tf.....
h = tf.nn.tanh(conv)
p = tf.pow(tf.nn.ave_pool(tf.pow(h,2)), 0.5)
これは同等ですか?これはバックプロパゲーションの点でうまくいくのでしょうか?
おそらくtf.sqrt(tf.nn.ave_pool(tf.square(h))のようなものです。 –