CIFAR-10上のニューラルネットワークで最も低いトレーニングエラーが可能

Question

おはよう！

どのようにCIFAR-10データセット（< 30隠しレイヤー）の完全に接続されたニューラルネットワークのトレーニングセットで、誤分類エラーが発生する可能性がありますか？

0.001または0を得ることは可能ですか？

あなたの経験から教えてもらえますか？

P.S.私はそれを上回ることから始めてNNを調整し、より一般化するためにパラメータを微調整します...

Answer 1

の隠しレイヤーの幅に制限を指定していないので、答えは簡単です。 （ラベルが異なる2つのサンプルがない限り）の任意の有限データセット上で、訓練エラー（ミス分類の点で）を達成することができます。これはUAT（CybenkoのUniversal Approximation Theorem）から直接得られます。実際に遭遇することはもちろん違いますが、一般的にCifar10では100％のトレーニングの精度を得ることができます。