情報ゲインの負の値

私はC4.5を実装しています。私の計算では、情報利得の負の値を取得しています。私はWhy am I getting a negative information gainを読むが、私のissiue seeamsは異なっている。私は、Excelに私の計算をパットと私は以下のように同じ結果を得る：私は間違って何をやっている情報ゲインの負の値

My calculations

を？

私は再びそれを計算してみました、そして下の画像にあるようにも、私は負の値を取得する： Newest calculations with data set 80は、分割値であるので、私は、あなたの結果を11 < = 80と3objects> 80

出典

2017-02-09 user3785803

使用しているエントロピーの式は何ですか？ – slcott

エントロピー公式： - SUM（確率* LOG（ベース2、確率）） – user3785803

乗算されていますエントロピーの場合-1？

$$ H（X）= - \ sum_ {i = 1}^nは{\ mathrm {P}（X_I）\ log_b \ mathrm {P}（X_I）} $$

うわ.. 。mathjaxに問題があります。go here for definition

出典

2017-02-09 20:03:31 slcott

はい、私はエントロピーに-1を掛けています。式= - （N3 * LOG（N3; 2）+ O3 * LOG（O3; 2）） – user3785803

答えて

関連する問題