scikit-learnとSpark MLの精度の点で、デシジョンツリーアルゴリズムのパフォーマンスをどのように比較できますか？

Question

sklearn DTとSpark ML DTを使用して取得したテキスト分類の精度を、同じ機能とデータセットで比較しています。それらを比較することも適切ですか？その理由は、パラメータのリストが両方とも異なるため、結果は異なると思います。私は、どのような基準で比較することができないのでしょうか？どちらの方がデフォルト設定の精度とパフォーマンスが向上するはずですか？私は、ユースケースからユースケースに依存していることは知っていますが、少なくとも同じユースケースでは一般化できますか？

Answer 1

2つのアルゴリズムを異なるハイパーパラメータで比較できます。精度測定（比較のための測定基準）はまったく同じでなければなりません。たとえば、SickitとMlibの両方について、AUC（曲線下面積）メトリックを使用できます。データセットと機能も同じでなければならないことに注意してください。

https://spark.apache.org/docs/2.1.0/mllib-evaluation-metrics.html

http://scikit-learn.org/stable/modules/generated/sklearn.metrics.roc_auc_score.html