なぜopenclでメッセージサイズが大きくなると帯域幅が増えますか？

Question

私はopenclのデータ転送についての論文を読んでいます。デバイスメモリに送信したいデータサイズが増えるにつれ、帯域幅は増加しますが、理由はわかりません。いくつかの1つ私に説明してくださいなぜ帯域幅が増加しますか？

Answer 1

カーネルが起動したり、GPUとの間で転送されるたびに、数マイクロ秒の短い遅延があります。歴史的に、これはNVIDIA GPUよりAMD GPU上で大きくなっています。したがって、データの送信に要する時間は2つあります。latency + X * Y B/sここで、Xはバイト数、Yは理論上の帯域幅です。 Xが小さい場合、X * Yはlatencyよりはるかに大きくありません。 Xが大きくなると、たとえば合計メガバイトの合計時間のうちの1分の1になると、総時間のわずかな部分になり、それほど重要ではなくなります。