テンソルフローモデルをプロセス間で共有する

Question

私はいくつかのプロセスをサーバー上で実行していますが、そのうちの1つはモデルをテンソルフローでトレーニングしています。定期的に、私はトレーナーに、現在のモデルを他のプロセスに送ることを望みます。私がこれを行う方法は、普通のSaverクラスで、ディスクからsave〜restoreまでです。

しかし、私はこの形式のIPCはむしろ非効率で、サーバー上でファイルシステムのロックアップを引き起こす可能性があると思います。変数をシリアル化する方法があれば、私はzmqブロードキャストパイプでそれを送ることができますが、私はこれをドキュメントで見つけられませんでした。

また、分散したテンソルフローがおそらくタスクまでありますが、それほど複雑なものは必要ないと思います。

Answer 1

アーキテクチャを事前共有してから、好きなステップごとにtf.get_collection(tf.GraphKeys.VARIABLES)を使用して実行して値を取得すると、もう一方の側にvariable.assignを使用して適切な変数に値をロードできます。