より良い占有率でカーネルの実行時間をどのように増やすことができますか？

Question

カーネルはスレッドごとに54個のレジスタを使用し、占有率は0.33です。これは、デバッグ目的のために、その中にif文があります。私はこのif文をコメントアウトした場合

if (-1 == val) // val is INT32 
{ 
    printf("Invalid value!\n"); 
} 

を、カーネルは、スレッドごとに33個のレジスタを使用し、占有率も0.5に改善されます。しかし、奇妙な部分は、この新しいより希薄なカーネルが実際に実行するために15％多くの時間を要するということです！その他のコードと起動パラメータ（ブロック、スレッド）はすべて定数です。どのようにこのパフォーマンスの低下が起こる可能性が誰に説明できますか？

私はGTX 580でCUDA 4.0を使用しています。コードはCUDAケイパビリティ2.0にコンパイルされています。

Answer 1

Ashwin、アルゴリズム、起動パラメータ、その他の詳細情報を提供できますか？Visual Profiler v4.1とParallel Nsightの両方で、ボトルネックの特定に役立つ追加のメトリックがあります。

理論的占有率は、SMがレイテンシをどの程度うまく隠すことができるかを抽象的に測定したものです。占有量を一定以上に増やしてもパフォーマンスは向上せず、パフォーマンスに影響する可能性があります。たとえば、占有量を増やすと、L1バイト/スレッドの数が減少します。見るべき項目の1つがキャッシュヒット率です。