（必要なときに...殺す、歩留まり、履歴書を）多くのプロセスがGPU上で実行されているどのように与えられた時間に発見し、おそらくそれらを管理するためにどのような方法があります私のGPU

Question

上で実行されている現在のCUDAコンテキストを取得します。私がしたいのは、私が別のプログラムを実行している間に、GPU上の各プロセス活動を監視することです。私はそれがどうやってできるか見ていませんでした。私は、GPUのコンテキストがCPUのプロセスと同等であることを知っていましたが、私が読んだのはそれが単一のプログラムの中でそれに影響することでした。繰り返しますが、私が欲しいのは（nvidia-smiツールと似ていますが、私自身の手段を用いて）GPU上のすべての活動を追跡することです。誰もそれで私を助けることができますか？それも可能ですか？

Answer 1

GPUコンテキストがドライバレベル構築物である、GPU自体がコンテキストについては何も知りません。それが知っているのは、コマンドキューがドライバから送信され、実行され実行されるということです。様々なAPIは、GPUのサポートは、私は、コマンドが完了しているかどうかを検査するためのコマンドがありますが、コマンドをキャンセルするためのコマンドがあるとは思わないコマンドを発行するためのサポートを公開します。私の視点から他の文脈でコマンドを検査したり操作することは、文脈の概念を裏切ることになります。

RE GPUが何をしているのかを調べるには、ドライバのコマンドキューを追跡し、ハードウェアコマンドキューのサンプリング状態を追跡することで、ドライバレベルでこれを行うことができます。通常はGPUベンダーに実装する必要があります。