ピクチャどのデバイスが動作しているかを知る方法

Question

私たちは4つのGPUデバイスしか持っていません。私たちは4人以上のユーザーがcudaプログラムを実行しているので、プログラムを実行する前に、どのデバイスがビジーでないかを確認したい、またはメモリを割り当てられません。しかし、私はこのタグを取得する関数を見つけることができません。私たちは "cudaSetDevice（）"と呼ばれるデバイスをいつ使用するかを知っているので、デバイスごとにタグが必要です。 「nvidia-smi」はどのプロセスがどのデバイスを使用しているか、どのくらいのメモリを使用したかなど、より詳細な情報を得ることができます。誰が私を助けることができますか？

Answer 1

cudaSetDeviceの値は0から始まり、追加のデバイスごとに単調増加します。あるいは、環境変数CUDA_VISIBLE_DEVICESを設定して、使用するデバイスを選択することもできます。 （https://devblogs.nvidia.com/parallelforall/cuda-pro-tip-control-gpu-visibility-cuda_visible_devices/参照）。

デバイスを使用しているものについての情報を入手するには、ドライバAPIを使用する必要があります。http://docs.nvidia.com/cuda/cuda-driver-api/index.html