2016-11-18 7 views
1

私は、1つの変数のヒストグラムの数を多く表しています。教師なしクラスタリングを使用してどのヒストグラムが似ているかを調べたいと思います。私はまた、使用するクラスタの最適な数を知りたいと思います。地球の動きを使ったクラスタのヒストグラムR

私はヒストグラム間の距離の尺度としてEarth Movers Distanceメトリックを読んでいますが、共通クラスタリングアルゴリズム(たとえば、k平均)でそれを使用する方法はわかりません。

プライマリ:クラスタヒストグラムにはどのようなパッケージと関数を使用しますか?

セカンダリ:クラスタの「最適な」数はどのようにして決められますか?

例データセット1(3ユニモーダルクラスタ):

v1 <- rnorm(n=100, mean = 10, sd = 1) # cluster 1 (around 10) 
v2 <- rnorm(n=100, mean = 50, sd = 5) # cluster 2 (around 50) 
v3 <- rnorm(n=100, mean = 100, sd = 10) # cluster 3 (around 100) 
v4 <- rnorm(n=100, mean = 12, sd = 2) # cluster 1 
v5 <- rnorm(n=100, mean = 45, sd = 6) # cluster 2 
v6 <- rnorm(n=100, mean = 95, sd = 6) # cluster 3 

例データセット2(3バイモーダルクラスタ):実施例データセット1

b1 <- c(rnorm(n=100, mean=9, sd=2) , rnorm(n=100, mean=200, sd=20)) # cluster 1 (around 10 and 200) 
b2 <- c(rnorm(n=100, mean=50, sd=5), rnorm(n=100, mean=100, sd=10)) # cluster 2 (around 50 and 100) 
b3 <- c(rnorm(n=100, mean=99, sd=8), rnorm(n=100, mean=175, sd=17)) # cluster 3 (around 100 and 175) 
b4 <- c(rnorm(n=100, mean=12, sd=2), rnorm(n=100, mean=180, sd=40)) # cluster 1 
b5 <- c(rnorm(n=100, mean=45, sd=6), rnorm(n=100, mean=80, sd=30)) # cluster 2 
b6 <- c(rnorm(n=100, mean=95, sd=6), rnorm(n=100, mean=170, sd=25)) # cluster 3 
b7 <- c(rnorm(n=100, mean=10, sd=1), rnorm(n=100, mean=210, sd=30)) # cluster 1 (around 10 and 200) 
b8 <- c(rnorm(n=100, mean=55, sd=5), rnorm(n=100, mean=90, sd=15)) # cluster 2 (around 50 and 100) 
b9 <- c(rnorm(n=100, mean=89, sd=9), rnorm(n=100, mean=165, sd=20)) # cluster 3 (around 100 and 175) 
b10 <- c(rnorm(n=100, mean=8, sd=2), rnorm(n=100, mean=160, sd=30)) # cluster 1 
b11 <- c(rnorm(n=100, mean=55, sd=6), rnorm(n=100, mean=110, sd=10)) # cluster 2 
b12 <- c(rnorm(n=100, mean=105, sd=6), rnorm(n=100, mean=185, sd=21)) # cluster 3 
+0

EMDは非常に高価なので、クラスタリングを高速化するには、下限とインデックスを使用する必要があります。 K-meansはBregman divergencesにしか使えません。私はEMDが1つだとは思いません。 –

答えて

1

クラスタリングソリューション:

library(HistDAWass) 

# create lists of histogram distributions 
lod<-vector("list",6) 
lod[[1]] <- data2hist(v1, type = "regular") 
lod[[2]] <- data2hist(v2, type = "regular") 
lod[[3]] <- data2hist(v3, type = "regular") 
lod[[4]] <- data2hist(v4, type = "regular") 
lod[[5]] <- data2hist(v5, type = "regular") 
lod[[6]] <- data2hist(v6, type = "regular") 

# combine separate lists into a matrix of histogram objects 
mymat <- new("MatH", nrows=6, ncols=1, ListOfDist=lod, names.rows=c(1:6), names.cols="density") 

# calculate clusters pre-specifying number of clusters (k) 
WH_kmeans(mymat, k=3) 

# the output of this gives the expected 3 clusters 

例データセット2のクラスタリングソリューション:

クラスタの「最適な」数の決定
lod<-vector("list",12) 
lod[[1]] <- data2hist(b1, type = "regular") 
lod[[2]] <- data2hist(b2, type = "regular") 
lod[[3]] <- data2hist(b3, type = "regular") 
lod[[4]] <- data2hist(b4, type = "regular") 
lod[[5]] <- data2hist(b5, type = "regular") 
lod[[6]] <- data2hist(b6, type = "regular") 
lod[[7]] <- data2hist(b7, type = "regular") 
lod[[8]] <- data2hist(b8, type = "regular") 
lod[[9]] <- data2hist(b9, type = "regular") 
lod[[10]] <- data2hist(b10, type = "regular") 
lod[[11]] <- data2hist(b11, type = "regular") 
lod[[12]] <- data2hist(b12, type = "regular") 

mymat2 <- new("MatH", nrows=12, ncols=1, ListOfDist=lod, names.rows=c(1:12), names.cols="density") 

WH_kmeans(mymat2, k=3) 

# the output of this also gives the expected 3 clusters 

を私は最良のメトリックがどうなるかわからないけど、このパッケージは、出力内のメトリックqualityを出してくれる。だから、いくつかのソリューションを計算して評価するのは非効率ですが、これを使用するのは私の初期のソリューションでした。例データセット1

最適クラスタ:

df = data.frame() 
for(i in 2:5) { 
    df = rbind(df, data.frame(n_clust = i, quality = WH_kmeans(mymat, k=i)$quality)) 
} 

ggplot(df, aes(x=n_clust, y=quality)) + geom_point(size=4) + geom_line() 

Example 1 Optimality plot

プロット2つのクラスタとクラスタ3及び3つのクラスタ上ほとんど改善との間の「品質」の明らかな増加を示しています。だから、私は「最適」として3を選ぶ。これは、3つのクラスタを持つように生データの例を作成して以来意味があります。

例2:

再び
df2 = data.frame() 
for(i in 2:11) { 
    df2 = rbind(df2, data.frame(n_clust = i, quality = WH_kmeans(mymat2, k=i)$quality)) 
    # this loop errors out after k=6 for me but the answer is already clear. 
} 

ggplot(df2) + geom_line(aes(x=n_clust, y=quality)) 

Example 2 Optimality Plot

qualityで最大の増加は、3つのクラスタに2つのクラスタからのものです。

誰かが代替手段を提案しましたか?これは、2500ヒストグラム以上の私の実際のデータセットでソリューションを計算するのに非常に時間がかかります。同様に、私は、複数の変数のヒストグラムを持つ他のデータセットではそれほど時間がかかりすぎると考えています。

関連する問題