2016-04-24 4 views
-1

私は最近、限られたボルツマンマシン(RBM)について勉強しています。制限付きボルツマンマシンでのトレーニングプロセスの説明方法は?

私はG.ヒントンの論文研究してきた:RBMで画像を訓練するために https://www.cs.toronto.edu/~hinton/absps/guideTR.pdf

は、ネットワークのデータの「確率を上げる」ことですが、それが作る、なぜ私が説明することはできません意味:与えられたイメージでネットワークを鍛える方法は、ネットワークの確率を上げることです。

誰かがそれを説明できますか?ありがとう。

答えて

2

RBMについては、物事を生成できるブラックボックスと考えてください。画像ドメインに焦点を当てるようになりました。今ではあらゆる種類の画像を生成できるブラックボックスになっています。画像のほとんどは何も表していません。訓練中は、RBMの内部パラメータ(どのように物を生成するかを定義します)を、訓練画像の所定のセットが生成される確率が高いというような方法で適合させます。つまり、RBMのパラメータを変更して、RBMが選択したイメージを生成するようにします。どのように実際にそれを行うことができますか?最適化手順を実行します。 RBMは、このようにあなたがシータがあなたのRBMの重みで設定されているあなたのトレーニングサンプルx、上の最適化問題

maximize_theta PRODUCT_x P(x | theta) 

を提起することができ、重みのセット(特定の方法で相互作用フロート、のように一定の数)として定義されます。最適化の問題を解決するには多くの方法があり、勾配アプローチを使用する方法や、他のより専門的な方法があります。彼らはすべて目標を共有しています - 最初のシータ(これは通常はランダムです)を「あなたが望むやり方でもう少し」行動するように変更してください。したがって、勾配ベースのアプローチでは、どの重みを変更するかを分析的に計算して、最適化基準(ここでは確率)を少し高くします。問題を「解決」することはありません。通常は、実際の解決策に近づくほど近づきます。

関連する問題