埋め込み空間（ニューラルネットワーク）を視覚化することは何を意味していますか？

Question

私は活動認知紙https://arxiv.org/pdf/1705.07750.pdfについて読んでいました。ここでは、開始認識v1で3D畳み込みを使用してアクティビティ認識を実行します。私は、ビデオのフィーチャーの埋め込みスペースを視覚化するという話を聞いていました。

1）埋め込み領域を視覚化することは何を意味していますか？あなたが学んだフィルターを見ていますか、類似の活動のクラスターを探していますか？

2）キャプチャしている機能を確認するために体重マトリクスを視覚化するだけですか？はいの場合、どの重量マトリックスですか？

3）tf.summary.image（）は重み行列を視覚化するのに役立ちますか？

Answer 1

埋め込みスペースは、いくつかの学習アルゴリズムによって生成されるフィーチャのスペースです。 （畳み込み）ニューラルネットワークの特定の場合、これは、通常、ある所定の層での出力特徴マップ（平坦化された）または完全に接続された層のうちの1つの出力を意味する。

視覚化するものは、ではなく、の重み行列ですが、一部の入力テストデータでは生成されたフィーチャの値です。たとえば、完全なテストセットをネットワークに渡し、特定のレイヤーで各イメージのフィーチャを計算し、それらの値を視覚化します。

TensorBoardには、埋め込みやその他の機能スペースを自動的に視覚化する機能がありますので、lookとする必要があります。

NLPなどの一部のアプリケーションコンテキストでは、埋め込みの定義が少し異なりますが、使用方法は同じです。