Tensorflow：勾配降下で入力を最適化

Question

私はいくつかの入力データで勾配降下（GD）を使ってうまく練習したテンソルフローモデル（畳み込みニューラルネットワーク）を持っています。

ここで、2番目のステップでは、入力画像を初期化し、GDを使用して固定ネットワークパラメータでこの入力画像を最適化したいと考えています。損失関数は異なるものですが、これは詳細です。ネットワークパラメータ の最適化を停止 - - 最初は、おそらくこの Holding variables constant during optimizer

で行うことができ、入力画像

上で最適化するために、

だから、私の主な質問は に勾配降下アルゴリズムに伝える方法です皆さんは2番目のポイントについて考えていますか？

私はグラジエント降下アルゴリズムを自分自身でTF勾配関数を使用してコード化することができますが、私の腸の感覚は、より複雑なGDバリアント（アダムなど） 。

ありがとうございます！ クリスチャン

Answer 1

1. は
trainable=Trueと tf.Variableとして画像を表す trainable=FalseとTF変数を用いてNNグラフを再作成し、訓練されたNNのグラフから重みをコピー
3. 開始画像（初期推定値）と、この変数を初期化を使用してtf.assign
4. 損失関数を計算する
5. 任意のTF最適化アルゴリズムに損失をプラグ