Scikit-LearnのDPGMMの冗長コンポーネントを正しく削除する方法は？

Question

私はscikit-学ぶディリクレ過程ガウス混合モデルを実装するために使用しています：

https://github.com/scikit-learn/scikit-learn/blob/master/sklearn/mixture/dpgmm.py http://scikit-learn.org/stable/modules/generated/sklearn.mixture.BayesianGaussianMixture.html

それはweight_concentration_prior_type = 'dirichlet_process'に設定されているデフォルトとsklearn.mixture.BayesianGaussianMixture()である、です。ユーザがクラスタ「k」の数を先験的に設定するk-meansとは対照的に、DPGMMはクラスタ数の事前分布としてDirichlet Processを有する無限混合モデルである。

私のDPGMMモデルは、一貫して正確なクラスタ数をn_componentsとして出力します。ここで説明したように、これに対処するための正しい方法はpredict(X)で「冗長コンポーネントを削減」することです：

Scikit-Learn's DPGMM fitting: number of components?

しかし、にリンクされている例では、実際に冗長コンポーネントを削除しての「正しい」数が表示されませんデータ内のクラスタ。むしろ、単に正しい数のクラスタをプロットします。

http://scikit-learn.org/stable/auto_examples/mixture/plot_gmm.html

ユーザーはどのように実際には配列べきこれらのコンポーネントを冗長コンポーネントを削除し、出力できますか？これは冗長クラスタを削除する "公式" /唯一の方法ですか？

は、ここに私のコードです：

>>> import pandas as pd 
>>> import numpy as np 
>>> import random 
>>> from sklearn import mixture 
>>> X = pd.read_csv(....) # my matrix 
>>> X.shape 
(20000, 48) 
>>> dpgmm3 = mixture.BayesianGaussianMixture(n_components = 20, weight_concentration_prior_type='dirichlet_process', max_iter = 1000, verbose = 2) 
>>> dpgmm3.fit(X) # Fitting the DPGMM model 
>>> labels = dpgmm3.predict(X) # Generating labels after model is fitted 
>>> max(labels) 
>>> np.unique(labels) #Number of lab els == n_components specified above 
array([ 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 
     17, 18, 19]) 

#Trying with a different n_components 

>>> dpgmm3_1 = mixture.BayesianGaussianMixture(weight_concentration_prior_type='dirichlet_process', max_iter = 1000) #not specifying n_components 
>>> dpgmm3_1.fit(X) 
>>> labels_1 = dpgmm3_1.predict(X) 
>>> labels_1 
array([0, 0, 0, ..., 0, 0, 0]) #All were classified under the same label 

#Trying with n_components = 7 

>>> dpgmm3_2 = mixture.BayesianGaussianMixture(n_components = 7, weight_concentration_prior_type='dirichlet_process', max_iter = 1000) 
>>> dpgmm3_2.fit() 

>>> labels_2 = dpgmm3_2.predict(X) 
>>> np.unique(labels_2) 
array([0, 1, 2, 3, 4, 5, 6]) #number of labels == n_components 

Answer 1

ありそうまだ行うには自動化された方法はありませんが、あなたは（例えば0.01以下）の小さな値を持っていると推定weights_属性とプルーンのコンポーネントを見てすることができます。

編集は：yoが効果的にあなたがすることができるモデルで使用される部品の数を数える：

model = BayesianGaussianMixture(n_components=30).fit(X) 
print("active components: %d" % np.sum(model.weights_ > 0.01) 

これは下に提供上限よりも（この例では30）を活性成分の数を印刷する必要があります。

編集2：n_componentsパラメータには、モデルで使用できるコンポーネントの最大数を指定します。モデルによって実際に使用される有効なコンポーネントの数は、フィットの最後にweigths_属性を調べることで取得できます。ほとんどの場合、データの構造と値がweight_concentration_prior（特にサンプル数が少ない場合）に依存します。

Answer 2

[1]で説明した反発性ガウス混合物をチェックしてください。 オーバーラップの少ないガウス分布を持つ混合物にフィットしようとするため、一般的には冗長性が低くなります。

まだソースコードが見つかりませんでした。

[1] https://papers.nips.cc/paper/4589-repulsive-mixtures.pdf