information-theory

-3熱

1答えて

トップダウンとボトムアップ解析を除いて、私とほとんど同じように見えます。誰でも説明できますか？

1熱

1答えて

私は、次の数学関数を実装しようといくつかの問題を抱えている中で、この数学の機能を実装する方法：私が直接自分での逆関数を計算し PHI（X）区分的に定義された関数の最初の等価のために。私は、何かが間違って実行されているに違いないという印象があります。その結果は、反復ごとに「正」（0より大きい）である必要があります。これは私が使用するはずの正確な式であることを確信していますので、これを解決する方

0熱

1答えて

シャノンのエントロピーがブロック内のシンボルの不均等な出現のために

私はシャノンのエントロピーの概念を理解し、コード長を決定しようとしています。最初のケースでは、bは5つのシンボルの配列です。一般に、bには1〜8の整数値があります。このために、Shanneonのエントロピー= NaN。 clear all b = [1,3,2,6,1]; p_1 = sum(b==1)/length(b); p_2 = sum(b==2)/length(b); p_3 =

1熱

1答えて

なぜ「算術符号化」にそのような名前が付けられていますか？

私は算術符号化のアルゴリズムを見直してきましたが、なぜ「算術符号化」という名前が与えられたのか分かりません。誰でも光を当てることはできますか？

0熱

1答えて

Pythonでの情報コンテンツの計算

2つのPythonリストから情報コンテンツを計算する必要があります。私は、確率がリストのヒストグラムから計算される次の式を使用できることを理解します。情報量= sum_ijのP（X_I、y_j）log_2（P（X_I、y_j）/（P（X_I）P（y_j））/ - sum_i P（Y_I）log_2 P（Y_I）。情報内容を計算するためのPython APIに建てられたの任意があるおかげで

0熱

1答えて

Rのスパース行列でPPMIを効率的に計算するには？

私はqlcMatrix、svs、quanteda、tm、text2vecRパッケージ間とwordspace TERM-の行列に基づいて用語とコンテキスト（間PPMI（正のポイントワイズ相互情報）を計算する機能があるだろうと思っているだろう長期（文脈）共起） - 明らかにそうではないので、先に進んで自分自身を書いた。問題は、それは糖蜜としては遅いかもしれません。なぜなら、おそらく私は疎なマトリックス

0熱

1答えて

フィッシャー情報マトリックス

フィッシャー情報マトリックスは、任意のマトリックスについて計算できますか？顔認識のための画像処理分野の仕事をしています。私の入力画像（実際にピクセルの行列です）上でフィッシャー情報行列を計算するにはどうすればよいですか？

2熱

1答えて

相関変数のグループでは、どの変数のサブセットが残りの変数を最もよく表しているかを推測できますか？

私は1684の測定を行う60個のセンサーのデータセットを持っています。私は実験中に使用されたセンサの数を減らし、残りのセンサデータを使用して、除去されたセンサを（機械学習を使用して）予測することを望む。私はデータ（image参照）を見て、センサー間の強力な相関関係を明らかにしました。これにより、Xセンサーを取り除き、残りのセンサーを使用してその動作を予測できるはずです。残りのセット（60-X）

-2熱

1答えて

情報理論測定：エントロピー計算

私は、何千もの行からなるコーパスを持っています。簡略化のため、コーパスがあることを考慮することができます： Today is a good day I hope the day is good today It's going to rain today Today I have to study は、どのように私は上記のコーパスを使用してエントロピーを計算するのですか？エントロピーのた

-1熱

1答えて

実数データセットのためのPythonの情報コンテンツ

この質問はprevious questionの補足です。 2つのPythonリストから情報コンテンツを計算する必要があります。これらのリストには実数が含まれています。私は、確率がリストのヒストグラムから計算される次の式を使用できることを理解します。 sum_ij p(x_i,y_j) log_2 (p(x_i,y_j)/(p(x_i)p(y_j))/- sum_i p(y_i) log_2 p(y