convnetのプールと正規化層の順番

Question

私はTensorFlow implementation of ORC on CIFAR-10を見ています。最初のconvnet層の後にプールして正規化していますが、2番目の層の後で正規化してプールしています。

私はちょうどこれの背後にある論理的根拠になるだろうと思っています。そして、プールの前にノルムを行うことをいつ/なぜ選択するべきかについてのヒントは非常に高く評価されます。ありがとう！

Answer 1

正規化によって値が変更されます。 しかし、それは正規化です。正規化の後、最大値は、とりわけ最大値です。

正規化 - >プールまたはプール - >ノーマルアシアネーションの結果は同じです。