マルチパーセプトロンの内部機能を解釈する

Question

私は、医療画像分類タスク（超音波スキャン画像が健康状態または病気状態に属するかどうかを分類する）でマルチレイヤパーセプトロンを訓練しました。ネットワークは、2つの完全に接続された隠れ層と1つの出力ユニットで構成されています。次に、重さを調べて、画像内のどの特徴（例えば、ピクセルのクラスタ）がネットワークが異なるクラスを区別するために最も重要であるかを調べたいと思う。私のネットワークは隠れた重みの2つのレイヤーを持っているので、これらの重みを使って各画像ピクセルの重要度をどのように数値化するのですか？これを経験した人が私に正しい文献を教えてもらえますか？ありがとう。

Answer 1

は「顕著性を見つけるためのいくつかの方法が他の著者によって記載されている。これらの中でも、感度は 層 - 様 ベースのアプローチ[4、5、6]、デコンボリューションベースのもの[7]、[8]、またはより複雑なものです（LRP）[9]を参照してください。

ソース：https://arxiv.org/pdf/1704.07911.pdf

彼らはあなたが望むものをやっているが、CNNで、多分あなたは医療用画像分類のための適切と思われるもの、CNNにMLPから行く必要があります。

それとも、この論文は、より良いフィットします：

Randomization approach for understanding variable contributions in artificial neural networks