ロードされたテンソルフローモデルでデバイスコンフィグを変更する方法

Question

GPMを持つ特定のコンフィグレーションでモデルをトレーニングして、このモデルを予測に使用したいと考えているとします。モデルビルダーを使用して保存します（予測メソッドシグネチャが構築されます）。私はこのモデルを使用して、GPUを使用できないJava環境で予測を行いたいと思っています。私は、複数のCPUでそれらを並列化する操作をチューニングしたいと思います。

これをJava APIでどのように実現できますか？ 新しい操作を作成した場合、setDeviceを使用してデバイスを割り当てることができますが、既存の操作カムをロードされたモデルからどのように変更できますか？出来ますか？それはJava APIで可能ですか？

このような状況を克服する正しい方法は何ですか？

Answer 1

オプションは、Pythonトレーニングプロセスからモデルをエクスポートするときにデバイスをクリアすることです。 SavedModelBuilderを使用する場合、これはclear_devices=Trueに設定されます。

"複数のCPUで並列化する操作のチューニングについて" - Java APIの基礎となるTensorFlowランタイムは、可能な場合は操作を並列にスケジューリングし、可能であれば個々の操作に複数のスレッドを使用する必要があります。

あなたが本当にConfigProtoで指定されたコンフィギュレーションを制御したい場合は、ConfigProto.Builder Java class（org.tensorflow:proto Mavenのパッケージ）を使用して、適切なプロトを構築することができ、それをシリアル化し、Sessionコンストラクタにそれを提供、このようなものを使用して：

ConfigProto config = ConfigProto.newBuilder() 
    .setInterOpParallelismThreads(1) 
    .build(); 
try (Session sess = new Session(graph, config.toByteArray())) { 
    System.out.println("Created Session with: " + config.toString()); 
} 

希望があれば