同じメモリアドレスで `writev`を繰り返し呼び出しても、ハードウェアのキャッシュが可能ですか？

Question

私はElixirとErlangがどのようにハードウェアを使用しているかについていくつかの性能に関する主張を読んできましたが、その根拠を理解しているかどうかを確認しようとしています。いくつかの背景：

最初に、Erlangは不変な文字列（iolists）のネストされたリストをIO（ファイル、ソケットなど）に書き込むことをサポートし、writevと文字列のメモリアドレスを使用します（see Evan Miller's blog post on this）。

第二に、the docs for an Erlang web framework called Chicago Bossは言う：

アーランはあなたのRAMを尊重します！

Erlangは、サーバー側のテンプレートをレンダリングするときに、接続されたクライアントごとにメモリ内に別々のWebページのコピーを作成しないため、Erlangは他のプラットフォームとは異なります。代わりに、複数の要求にまたがる同一の不変メモリへのポインタを構築します。

2人で同時に2つの異なるプロファイルページをリクエストすると、ヘッダー、フッター、その他の共有テンプレートスニペットに対して実際に同じチャンクが送信されます。その結果、汗をかくことなく、何百人ものユーザーのために、キャッシュされていない複雑なWebページを構築できるサーバーが実現しました。

第三に、a book about an Elixir (Erlang VM) web framework called Phoenixは言う：

テンプレートをプリコンパイルされています。フェニックスはレンダリングされた各テンプレートの文字列をコピーする必要はありません。 ハードウェアレベルでは、の前にこれらの文字列がキャッシュされていないことがわかります。

ソースを見ると、このフレームワークでは、アイリッシュリストを使用して完成した応答テンプレートを表すことがわかりました。一緒にこのすべてを置く

、私は何を暗示されていますが、ハードウェア、Webフレームワークは、同じメモリ位置から次々Webリクエストを同じヘッダーとフッターの文字列を送信するためにOSを伝えるためにwritevを使用している場合ということだと思います"ああ、私はその価値を知っている、それはすでにCPUキャッシュに入っているので、RAMを探す必要はありません"と言うことができます。

そうですか？（私はシステムコールとハードウェアをほとんど理解していません）もしそうでなければ、ハードウェアキャッシングがどのように関与しているかについてのアイデアはありますか？

（ボーナスあなたがどのように見るか、何が起こっているかを推測するために私を伝えることができます。）

Answer 1

はい、それは主にあなたを助けるプロセッサキャッシュです。データを取得するのに必要な時間は、より高速なメモリ（CPUキャッシュ）に入っているので、それだけ小さくなります。

キャッシュが何であるか、彼らがどのように働くか理解するためのいくつかのポインタ：

• https://www.quora.com/How-does-the-cache-memory-in-a-computer-work
• http://www.hardwaresecrets.com/how-the-cache-memory-works/
• http://lwn.net/Articles/252125/

これを確認するには、要求がかかるどのくらいの測定は、（クライアント通常のサーバー操作では、その後、同一のVM内で、非常に大きな文字列を常に作成してディスクに書き込みます（おそらく、プロセス上のL2/L3キャッシュのサイズに関係なく、サイズはメガバイトでなければなりません）。要求がどれくらいかかっているかを再検討する - 正しく行われた場合、少なくとも1桁以上遅くなるはずです。