MPI内部：プロセス間の通信実装

Question

私は、実際のプロセス通信がMPIコミュニケータ内でどのように起こっているのか把握しようとしています。私は8つのノードを持ち、それぞれに12コア（96のインスタンスが稼動している）を持っています。各プロセスには一意のランクが割り当てられ、プロセス間では互いに通信できます。では、プロセスはどのようにしてユニークなランクを得て、実際のメッセージを送信することができますか？いくつかのスライドによれば、「プロセスがそのセル（例えば、クラスタのフロントエンド）で起動されるマシンに常駐するORTE（Open Run-Time Environment）」があります。 （ノード、プロセス）。宇宙の残りの部分にセル状態を報告する。セル間のルーティング通信。私はMPI実装の開発者のドキュメントやアーキテクチャ論文を見つけることができませんでした。誰でも、MPIプロセス間の実際の通信がどのように実装されているか、つまり自分自身を見つけて割り当てられたランクを獲得する方法を知っていますか？ルーティングのための中央MPI内部プロセスがいくつか存在するか（例えば、ノードごとに）

おかげで、 デビッド

Answer 1

あなたが話しているメカニズムは、厳密には実装に依存しています。 MPIは、ハードウェアとオペレーティングシステムによって提供される通信メカニズムの最上位に位置する中間レベルの標準です。

ORTEは、今日の野生の一般的なMPI実装の1つであるOpen MPIの一部です。また、MPICHとMPICH2とその変形（例：Intel MPI）もあります。ほとんどのスーパーコンピュータベンダーは、独自のMPI実装を提供しています（IBMがBlue Gene/Q用に変更されたMPICH2を提供しているなど）。

Open MPIの機能は、複数のレイヤーに分割され、各レイヤーの機能は動的にロードされる多数のモジュールによって提供されるということです。特定の条件下で最良のモジュールを選択するスコアリングメカニズムがあります。

すべてのMPI実装は、いわゆるSPMDの起動を行うメカニズムを提供します。基本的にMPIアプリケーションは特殊な種類のSPMD（Single Program Multiple Data）です。単一の実行可能ファイルの多くのコピーが実行され、メッセージのやり取りは通信と調整のメカニズムとして使用されます。実行ノードのリストを取得し、プロセスを遠隔から起動し、それらの間の関連および通信スキームを確立するのはSPMDランチャーです（Open MPIではこれをMPI Universeと呼びます）。これは、グローバルMPIコミュニケータMPI_COMM_WORLDを作成し、最初のランク割当てを配布し、CPUコアへのプロセスのバインド（NUMAシステムでは非常に重要）などのオプションを提供できます。プロセスが開始されると、識別のためのいくつかのメカニズムが利用可能である（例えば、ランクとIPアドレス/ TCPポートとの間のマッピング）、他のアドレッシング方式が採用されてもよい。たとえば、Open MPIは、ssh,rshを使用してリモートプロセスを起動するか、別のリソース管理システム（PBS/Torque、SLURM、Grid Engine、LSFなど）によって提供されるメカニズムを使用できます。プロセスが起動し、そのIPアドレスとポート番号がユニバースに記録され、ブロードキャストされると、プロセスは他の（より高速な）ネットワーク上で互いに見つけることができます。 InfiniBandに接続し、通信ルートを確立します。

ルーティングメッセージは、通常、MPI自体では行われませんが、基礎となる通信ネットワークに残されます。 MPIはメッセージの作成だけを行い、ネットワークに渡して宛先に配信します。同じノードに存在するプロセス間の通信には、通常は共有メモリが使用されます。

技術的な詳細についてお知りになりたい場合は、Open MPIのソースコードを読むことをお勧めします。プロジェクトのWEB siteにあります。