ストリームメモリ帯域幅ベンチマークと、MPIをローカルに実行することによる潜在的なスピードアップとの間の実際的な関係は何ですか？

Question

10個のプロセッサを搭載したコンピュータでストリームメモリ帯域幅のベンチマーク（https://www.cs.virginia.edu/stream/）を実行しました。このベンチマークでは、3つまたは4つのプロセッサーの後では、スピードアップは約3倍になっています。 MPIコードのパフォーマンスに対するこの結果の実際の影響は何ですか？簡単にするために、このマルチコアマシン上でのみプログラムが複数のプロセスをローカルで実行しているとします。つまり、メモリアクセスが集中するプログラムを実行している場合、すべてのコアを使用していても3倍以上のスピードアップを得ることはできませんか？メモリアクセスが集中していないプログラムを実行した場合、理論的には完全に10倍を得ることができますか？同時に3つのプロセッサを使用する2つまたは3つのメモリアクセス集中型プログラムを同時に実行した場合、3倍の速度を得ることができますか、または互いに干渉し、RAMから同時に引き出されるため、

Answer 1

スピードアップはコードにどれくらいの並列性が存在するかです。さらに、アプリケーションの種類によっては、どのリソースもボトルネックになる可能性があります。アプリケーションでメモリが大量に使用されている場合は、メモリの帯域幅によって制限されます。メモリが集中しておらず、並列性が高い（Monte Carloサンプリングを例に取る）場合、コアから完全に高速化することができます。

あなたの最後の質問（複数のメモリを大量に消費する）に答えるには：1日の終わりにメモリコントローラを使用して読み書きを行います。したがって、メモリバンクと物理ページがどこから割り当てられているかによって異なります。したがって、あなたが言及した2つの状況のいずれかが起こる可能性があります。