任意のタイプの分類子の事後確率を計算することは可能ですか？

Question

私が知っているように、Naive Bayesのようないくつかの分類器は、データの事後確率を計算し、それに基づいて結果を生成します。 私の質問は、どのような分類器でも事後確率を生み出すことができますか？ たとえば、意思決定ツリーがそれをどのように生成できるか？

Answer 1

ロジスティック回帰およびニューラルネットワークのようないくつかの分類モデルは、事後クラス確率を直接計算する。二次判別式や混合密度から導き出されたモデルなどの生成モデルに基づくモデルもまた、事後クラス確率を計算する。意思決定ツリーは、ツリーの葉から正の例の割合を戻すことによって、クラス確率を出力するように容易に適合させることができる。

顕著な例外は、サポートベクターマシンであり、確率を返しません。誰かがそれを修正して確率を返そうとしていると思うかもしれない。それはうまくいかなかった。

このことの詳細については、Hastie、Tibshirani、およびFriedman、 "Statistical Learningの要素"（または多くのテキストのいずれか）を参照してください。この種の質問はおそらくstats.stackexchange.comに行くべきです。