K倍の相互検証 - 各折り畳み後にネットワークを初期化するかどうか？

Question

私は、k-foldクロスバリデーションがどのように機能し、MATLABスクリプトにそれを実装し始めたかをほとんど理解していますが、私は2つの質問があります。

これを使用してネットワーク機能（隠しユニット、私の場合は減量前と減数繰り返し）を選択するとき。それぞれの「折りたたみ」の後に重みを再初期化すべきですか、またはすでに訓練されたネットワークに次の訓練を供給するだけですか（前回の折り畳みに最適化された重みがあります）

データの前の倍数が次のデータの良い近似となるため、後者の方が誤差が小さくなるはずであるため、重みはガウス分布からランダムに初期化されたものよりも近くなります。

さらに、k倍検証とネットワークハイパーパラメータなどを使用してネットワークを検証し、ネットワークを使用したいと考えていますが、k-fold検証の使用を中止し、一度、利用可能なすべてのデータを使用していますか？

ご協力いただきありがとうございます。

Answer 1

はい、「空白」ネットワークから開始するには、各折り畳み後に重みを再初期化する必要があります。あなたがこれをしないと、各折り目がお互いに「漏れ」、それはK-Fold CVがするものではありません。

最高のハイパーパラメータを見つけたら、使用可能なすべてのデータを使用してトレーニングすることができます。最終テストのためにいくつかの保留テストデータを保持することを忘れないでください。