BaggingClassifierは異なる実行で同じ結果を返します

Question

私は単純なモデル（knn）をテストし、結果をEnsambleと比較しようとしています。

from sklearn.model_selection import cross_val_score 
from sklearn.neighbors import KNeighborsClassifier 
from sklearn.ensemble import BaggingClassifier 
from sklearn.datasets import load_iris 
data = load_iris() 
y = data.target 
X = data.data 
knn = KNeighborsClassifier() 
bagging = BaggingClassifier(knn, max_samples=0.5, max_features=0.5) 

print "KNN Score:\t", cross_val_score(knn, X, y, cv=5, n_jobs=-1).mean() 
print "Bagging Score:\t", cross_val_score(bagging, X, y, cv=5, n_jobs=-1).mean() 

しかし、毎回私はコードを実行して、同じエラー推定を取得します...毎回異なるはずはありませんか？

Answer 1

コードには2つのスコアが計算されています。最初のもの、

print "KNN Score:\t", cross_val_score(knn, X, y, cv=5, n_jobs=-1).mean() 

は常に同じ値を返します。その理由は、このプロセスでは何もランダムではないということです。データはまったく同じで、5つ折りへのデビジョンはまったく同じです（hereと示されているように、データは5つの連続した折り目に分割されています）。以下のスコアを計算する際

しかし、：

print "Bagging Score:\t", cross_val_score(bagging, X, y, cv=5, n_jobs=-1).mean() 

プロセスにおけるランダム性があります。たとえば、max_samples=0.5以降、ランダムにサンプルの半分を描画して、各ベース推定を訓練します。したがって、コードを実行するたびに別の結果が得られる可能性があります。