ページhttp://mxnet.io/tutorials/python/mnist.html#ウェイトマトリックスの寸法が正しくない

Question

マルチレイヤーパーセプトロンのサブセクションの下で、ウェイトマトリックスの寸法がm kです。しかし、私は出力層-Yの次元がn * kであるため、k mとすべきであると考えます。

私の理解は正しいですか？

Answer 1

FullyConnected層のための正しい行列の計算式は次のとおりです。したがって、この式では、あなたの入力はn x mある

output = input x weight_transpose + bias

、あなたの体重は転置される前k x mあり、そして、あなたの出力はn x kです。 FullyConnected APIのドキュメントhereを参照してください。

ちょうど始めているのであれば、新しいGluon APIに焦点を当てるのが理にかなっています。これは、学習してデバッグする方がはるかに簡単です。