予測の理由/ルールの検索

Question

機械学習の初心者です。私には、分類モデルを使用している2つの値（YとN）を持つ属性の値を予測したいという要件があります。モデルを作成するための10〜15の機能があります。予測の間、私はなぜその予測をしているのか（ルール）を伝えたい。私が決定木アルゴリズムを使用するといくつかの規則を見ることができますが、SVMやNaive Bayesのような他の分類アルゴリズムを使用するとルールを見つけることができません。

私は2つの質問があります： 1.すべてのアルゴリズムのルールを見つける方法はありますか？ 2.これは珍しい要件ですか？

Answer 1

いいえ、すべてのアルゴリズムのルールを見つけることはできません。多くは単純な形で抽出しません。たとえば、SVMの「ガウスカーネルトリック」やニューラルネットワークの中間層は、ルールを読みやすくすることはできません。

人間が判読可能な形式で決定アルゴリズムを実行する必要はありません。ほとんどの場合、私たちは自分で結果を計算するつもりはないので気にしません。代わりに、訓練されたモデル（どのようなタイプ/アルゴリズムでも）を保存し、一般的な使用のためにそれを展開します。私たちは答えの詳細を見るために "箱の中を見る"必要はありません。

実際、CNN（または最も単純なニューラルネットワーク）の場合、その答えは計算上複雑で人間の心にはほとんど役に立たないため、パラメータや非線形部分が多すぎます。