2つの異なるGPUで2つの異なるNNを同時にトレーニングできますか？

Question

私は2つのGPUを持っていませんでしたが、すぐに1台のPCで2台持ちます。

時々、両方のカードを使用してモデルをトレーニングして、できるだけ早くトレーニングしたいと思うことがあります。しかし私は、2つの異なるモデルを同時に訓練したいという状況を想像しています。

TensorflowやPyTorchのようなフレームワークを使用することは可能でしょうか？

Answer 1

非常に簡単な方法を使用できます。最初のモデルと2番目のモデルを持つ2つの異なるPythonスクリプトを起動します。 TensorFlowでは、with tf.device('/gpu:0'):,with tf.device('/gpu:1'):などを使用してデバイスを明示的に指定することができます。詳細については、ドキュメントTensorFlow Using GPUsを参照してください。