2017-12-08 14 views
0

畳み込みニューラルネットワークのフィルタは、生データ(またはそれ以前のレイヤ)の特徴を抽出するため、バックプロパゲーションによる教師なし学習によってそれらを設計することは完全に意味があります。しかし、私は入力データサンプルの監督されていないクラスタリングによってフィルタが見つかるいくつかの論文を見てきました。クラスターセンターがフィーチャー抽出のための良いフィルターと見なされる方法は、私には奇妙に見えます。誰かがそれについて良い説明をしていますか?データクラスタリングによるニューラルネットワークの畳み込みフィルタ設計

答えて

0

k-meansなどの特定の一般的なクラスタリングアルゴリズムは、ベクトル量子化の方法です。

tryを使用して、データ点の最小二乗量子化を見つけると、すべてのデータポイントを最小自乗差を持つ同様のベクトルで表すことができます。

したがって、最小二乗近似の観点からは、クラスタの中心は適切な近似値です(最適なセンターを見つける余裕はありませんが、合理的に良いセンターを見つける良い機会です)。最小二乗が適切かどうかは、データに大きく依存します。たとえば、すべての属性は同じ種類である必要があります。各ピクセルが同じように表される典型的な画像処理タスクでは、これは後で監督される最適化のための良い出発点となる。しかし、私は、の柔らかいの分解は通常、すべてのパッチがちょうど1種類であると仮定しない方が良いと信じています。

+0

あなたの注意と返信をありがとう。しかし、私の質問は、クラスターセンターの代表性に関するものではありません。彼らはデータの代表者でもよいし、言い換えれば、私たちが望む機能かもしれない。それらがフィーチャとして使用されても問題ありませんが、フィーチャを抽出するためにフィルタウェイトとして使用されています。これはまったく異なるアプローチであり、クラスタセンターでデータをどのように乗算すれば、他の便利な機能が生まれるのか分かりません。 – Shahriar49

+0

*代表*に選ばれています。だから彼らはおそらく入力の情報の大部分をエンコードすることができます。そのため、ランダムベクトルよりもフィルタとして適しています。 –

関連する問題