私は[23.13,56.1,12.6,1.23,5.56]のような値を持つ変数を持っています。私はこの変数のエントロピーを見つけたいと思う。私はここに1つのコードHow to compute the shannon entropy and mutual information of N variablesを持っていますが、連続変数のためにはどのビンサイズが望ましいでしょうか?Pythonで連続変数のエントロピーを見つけるには?
0
A
答えて
0
「最良の」ビンサイズはありません(値が明確に異なるクラスターに分類されている場合を除きます)。
連続分布の場合、エントロピー(K & L 1987)と対応するKraskov、...、Grassberger(2004)の見積もりについて、Kozachenko-Leonenko k-nearest neighbor estimatorを使用する方がよいでしょう。
Kozachenko-Leonenko推定器の基本的な考え方は、隣接するデータ点間の平均距離を(一部の関数で)調べることです。直感は、その距離が大きいと、データの分散が大きく、エントロピーが大きいということです。実際には、最近傍距離を取る代わりに、k最近傍距離をとる傾向があり、推定値をより堅牢にする傾向がある。
私は両方の実装を自分のgithub:https://github.com/paulbrodersen/entropy_estimatorsに持っています。
関連する問題
- 1. Pythonセット内で最小の連続した整数を見つける
- 2. 連続するエントリを見つける
- 3. 連続番号を見つける
- 4. 配列内の連続する数字を見つける
- 5. ループ内で最小の数を連続して見つけるには
- 6. 連続した最大数を見つけるためのアセンブリコード
- 7. 時間に基づいてPythonで連続するゼロを見つける
- 8. 見つける連続実行が
- 9. Pythonでリストの項目の最も連続したシーケンスを見つける
- 10. 3つの連続する空白を見つけるlastIndexOf
- 11. 一連の接続点の間にクローズドループを見つける
- 12. ブール値ベクトルでTRUEの最長連続チャンクを見つける
- 13. テキストファイルの変数の量をPythonで見つける
- 14. pythonで素数を見つける
- 15. 配列内に一致する連続する整数を見つける
- 16. row_idに連続した日付範囲とその回数を見つける
- 17. Pythonは2つのタイムスタンプの差を数分で見つける
- 18. グラフのサイクル数を見つける(Python)
- 19. Pythonで数値の素因数を見つける方法は?
- 20. ベクトル内の連続した整数の最初のセットを見つける
- 21. 2進数で最大連続数を見つけるにはどうすればいいですか?
- 22. R:しきい値以下の連続値を見つける
- 23. パンダの不連続なデータを見つける方法
- 24. パンダ:連続して番号を付けるとインデックスでグループを見つける
- 25. 連続して3つの整数を掛けた結果の最初の数を見つけよう
- 26. Googleスプレッドシートで最小の連続する2つのセルを見つけよう
- 27. Python変数を所有するクラスを見つける方法
- 28. pythonを使用して連続ファイルのdelimeterのn番目の出現を見つけるには
- 29. テーブルで連続した空き番号を見つけよう
- 30. C#のリスト内で連続した整数を見つけるにはどうすればよいですか?
[シャノンエントロピーとN変数の相互情報の計算方法](https://stackoverflow.com/questions/24144777/how-to-compute-the-shannon-entropy-mutual-information) -of-n-variables) – msalperen