PCA、TruncatedSVD、ICAの違いは何ですか？

Question

PCA（主成分分析）、TruncatedSVD（切り捨て特異値分解）、ICA（独立成分分析）の違いを教えてもらえますか？

Answer 1

詳しくは、長いページが必要です。PDF文書:-)

しかし、アイデアは単純です：

1. 主成分分析（PCA） - データのネイティブ座標を分析します。すなわち、データに沿って最もエネルギーを持つ調整（分散）。次元dのn個のサンプルに対して、$ d $直交方向が存在する。つまり、それらに投影されたデータには相関がありません。データをランダム変数として見ると、投影データから任意のペアの相互相関（最初の瞬間）が消失した座標系が見つかりました。
   これは、エネルギーの大部分を保持することによって、より低い次元でデータを近似する非常に効率的な方法です。
2. 切り捨てSVD - 座標系を計算する方法の1つがSVDを使用していることを示すことができます。したがって、これはPCAの背後にあるアイデアを適用する方法です。
3. 独立成分分析（ICA） - これはPCAから一歩遠く離れています。 PCAでは、ICAのデータの最初の瞬間（Correlation）のみを処理していましたが、より高い瞬間を見て、より高い瞬間が消えるデータの投影を見つけようとしています（相関の欠如と確率独立性を考える）。