sklearnのモデルの精度を向上させる

Question

決定木の分類は0.52の精度を与えますが、精度を上げたいと思います。 sklearnで利用可能な分類モデルを使用して精度を上げるにはどうすればよいですか？

私はknn、decision tree、およびcross-validationを使用していますが、それらのすべてがあまり正確さがありません。

おかげ

import pandas as pd 
from sklearn.model_selection import cross_val_score 
from sklearn.model_selection import train_test_split 
from sklearn.neighbors import KNeighborsClassifier 
from sklearn.tree import DecisionTreeClassifier 

#read from the csv file and return a Pandas DataFrame. 
nba = pd.read_csv('wine.csv') 

# print the column names 
original_headers = list(nba.columns.values) 
print(original_headers) 

#print the first three rows. 
print(nba[0:3]) 

# "Position (pos)" is the class attribute we are predicting. 
class_column = 'quality' 

#The dataset contains attributes such as player name and team name. 
#We know that they are not useful for classification and thus do not 
#include them as features. 
feature_columns = ['fixed acidity', 'volatile acidity', 'citric  acid', 'residual sugar', 'chlorides', 'free sulfur dioxide', 'total sulfur   dioxide', 'density', 'pH','sulphates', 'alcohol'] 

#Pandas DataFrame allows you to select columns. 
#We use column selection to split the data into features and class. 
nba_feature = nba[feature_columns] 
nba_class = nba[class_column] 

print(nba_feature[0:3]) 
print(list(nba_class[0:3])) 

train_feature, test_feature, train_class, test_class = \ 
train_test_split(nba_feature, nba_class, stratify=nba_class, \ 
train_size=0.75, test_size=0.25) 

training_accuracy = [] 
test_accuracy = [] 

knn = KNeighborsClassifier(n_neighbors=5, metric='minkowski', p=1) 
knn.fit(train_feature, train_class) 
prediction = knn.predict(test_feature) 
print("Test set predictions:\n{}".format(prediction)) 
print("Test set accuracy: {:.2f}".format(knn.score(test_feature, test_class))) 

train_class_df = pd.DataFrame(train_class,columns=[class_column])  
train_data_df = pd.merge(train_class_df, train_feature, left_index=True, right_index=True) 
train_data_df.to_csv('train_data.csv', index=False) 

temp_df = pd.DataFrame(test_class,columns=[class_column]) 
temp_df['Predicted Pos']=pd.Series(prediction, index=temp_df.index) 
test_data_df = pd.merge(temp_df, test_feature, left_index=True, right_index=True) 
test_data_df.to_csv('test_data.csv', index=False) 

tree = DecisionTreeClassifier(max_depth=4, random_state=0) 
tree.fit(train_feature, train_class) 
print("Training set score: {:.3f}".format(tree.score(train_feature, train_class))) 
print("Test set score Decision: {:.3f}".format(tree.score(test_feature, test_class))) 

prediction = tree.predict(test_feature) 
print("Confusion matrix:") 
print(pd.crosstab(test_class, prediction, rownames=['True'], colnames=['Predicted'], margins=True)) 
cancer = nba.as_matrix() 
tree = DecisionTreeClassifier(max_depth=4, random_state=0) 

scores = cross_val_score(tree, train_feature,train_class, cv=10) 
print("Cross-validation scores: {}".format(scores)) 
print("Average cross-validation score: {:.2f}".format(scores.mean())) 

Answer 1

通常DT後の次のステップは、RF（およびそれの隣人）またはXGBoostある（それはsklearnではありません）。それらを試してください。そして、DTは非常にオーバーフィットに簡単です。

アウトライヤーを削除します。あなたのデータセットのクラスをチェックしてください：それらがアンバランスである場合、エラーの大部分がそこにあるかもしれません。この場合、フィッティングまたはメトリック関数（またはf1を使用）でウェイトを使用する必要があります。

ここにあなたの混乱マトリクスを添付することができます。見栄えがいいかもしれません。

また、NN（Sklearnからも）がより良い結果を示すかもしれません。

Answer 2

前処理を改善しました。

DTやkNNなどのメソッドは、列の前処理方法に敏感な場合があります。例えば、DTは、連続変数上のよく選択された閾値から多くの利益を得ることができる。