低頻度用語 - Naive Bayes精度向上

Question

Naive Bayesを使用して分類を適用している何千もの要因（カテゴリ変数）があります。

私の問題は、私のデータセットにはほとんど何も現れない多くの要因があるため、予測のパフォーマンスが低下するようです。

実際、私は、非常に数回起こっているカテゴリ変数を削除すると、私の正確さが大幅に向上していることに気付きました。しかし、理想的には私のすべての要素を守りたいのですが、そうするベストプラクティスは何か分かりますか？

大変ありがとうございました。

Answer 1

コメントが長すぎます。

正確な予測を行うのに十分なデータがないため、頻度の低い用語が精度に悪影響を与えることがあります。したがって、訓練セットの観察では、検証セットについて何も言わない場合があります。

すべての最低頻度の観測値を1つの値にまとめることができます。オフサイド、私は正しいしきい値が何であるか分からない。あなたは、5回以内に発生したすべてのものを取り、それらを一緒にまとめることから始めることができます。