機械学習モデルでtrain.csv、test.csv、ground_truth.csvを使用するにはどうすればよいですか？ （クロスバリデーション/ Python）

Question

今まで私は1つのデータセット（df.csv）しか持っていませんでした。これまでのところ、通常の回帰モデルでは、検証サイズ20％と.train_test_splitを使用しました。私は3つの別々のデータセットを持っている場合

array = df.values 
X = array[:,0:26] 
Y = array[:,26] 
validation_size = 0.20 
seed = 7 
X_train, X_validation, Y_train, Y_validation = 
    cross_validation.train_test_split(X, Y, 
    test_size=validation_size, random_state=seed) 
num_folds = 10 
num_instances = len(X_train) 
seed = 7 
scoring = 'mean_squared_error' 

（train.csv /のtest.CSV/ground_truth.csv）、私はそれをどのように対処することができますか？もちろん、最初はtrain.csv、次にtest.csv、最後にground_truthを使用します。しかし、これらの異なるデータセットを私のモデルにどのように実装すればよいですか？

Answer 1

クロスバリデーションを実行すると、列車とテストのデータは本質的に同じデータセットであり、オーバーフィットを避けるためにさまざまな方法で分割されます。折り畳みの数は、セットが分割される方法の違いを示します。

たとえば、5倍のクロスバリデーションではトレーニングセットが5つに分割され、そのうちの4つがトレーニングに使用され、1つがテストに使用されます。したがって、あなたの場合、次のオプションがあります。

トレーニングセットだけでクロスバリデーションを実行してから、テストセットとグラウンドトゥルースをチェックします（フィッティングはトレーニングセットでのみ行われます。テストとグラウンドの真理は同じでなければならない）、あるいは、より大規模でおそらくより代表的なデータセットのためのトレーニングとテストを組み合わせ、地上の真理をチェックする。