Tensorflowモデルの並列性エラー

Question

実際にテンソルフローでモデルの並列性を自動的に実装したいと考えています。

バージョン1.3のプレースメントコード（simple_placer.cc）のテンソルフローのコードを少し修正します。しかし、配置はMNISTの場合には機能していましたが、開始時にエラーがあります。

InvalidArgumentError (see above for traceback): Trying to access resource located in device /job:worker/replica:0/task:1/cpu:0 from device /job:worker/replica:0/task:0/cpu:0 

私はこのようなエラーが立ち上がるか、このエラーを作るものが条件ときのように、このエラーに関するいくつかのアドバイスを取得したいです。

ありがとうございました。

Answer 1

このエラーは、通常、入力の1つを読み込もうとしたときに発生しますが、その入力は別のデバイスに存在します。通常、テンソルフローが異なるデバイスに操作を配置するとき、send/recvノードを実行グラフに挿入して、これらのデバイス間のテンソルを交換します。変更によって、そのロジックの一部が壊れている可能性があります。