TensorFlow RNNトレーニングCPU使用率が60％（GPUが60％のみの場合）

Question

私は、比較的大きなRNN（128セルLSTMといくつかの追加レイヤー）を訓練するコードに取り組んでいます。主なプロセスはCPU上のコアを最大限に活用することです。これが正常かどうか、または最適化できるかどうかは疑問です。トレーニングループ（session.run呼び出し）中には、1つのコアで100％CPU負荷を使用している間に約60〜70％のGPU負荷を使用しています。データサンプリング作業はすでに他のコアで同時に実行されているので、モデルパラメータを更新するだけです。 TensorFlowのこのようなアプリケーションではこれは定期的ですか、GPUの全容量を使用している間はCPU負荷がはるかに低くなっている必要がありますか？

Answer 1

我々はまだそれに完全なマニュアルを持っていませんが、それはより多くの時間が起こっている場所のアイデアのあなたを与えるかどうかを確認するために、プロファイリング情報を見てとることができます。 はhttps://github.com/tensorflow/tensorflow/issues/1824#issuecomment-225754659

Answer 2

私は思いますRNNセルには2つの入力があり、データを転送するときにその2つの方向入力を待つ必要があります。つまり、CNNほど簡単ではありません。大きなバッチサイズを使用してGPUの使用率を向上させることはできますが、そのような問題が発生する可能性があります。ディープラーニングの大規模バッチトレーニング：一般化ギャップとシャープミニマム