複数のウェブサイトで同時にAPI呼び出しが行われる

Question

まず、私の悪い英語の謝罪。

私は物事を明確にしたい。

複数のウェブサイトのユーザーがいる場合（1000としましょう）、APIのエンドポイントにアクセスしようとすると（同時に誰もが登録エンドポイントにアクセスしているとします）、まったく同じ時刻ではない場合、ナノ秒）。何が起こるか？誰もが同じ応答時間を得ますか？またはそれにアクセスする最初の人は、2番目の人より速くそれを得るでしょうか？

私の知識に基づいて（ええと私はばかです）、私はAPIがキューでそれを処理すると思います。だから、もしあなたが1000番目のユーザーであれば、はるかに長い時間で応答を受け取ります。これが本当ならば。遅延を減らす方法はありますか？

ご説明いただきありがとうございます:)

Answer 1

あなたは正しいですか。同時にAPIにアクセスしているユーザーが1000人いる場合、そのうちのいくつかが待機する可能性が最も高いです。

受け付ける同時要求の数を微調整できます。私はあなたがnginxまたはApacheを使用していると仮定します。たとえば、nginxのワーカープロセスとワーカープロセスを可能な限り増やす必要がありますが、サーバがそれらを処理できることを確認してください。

さらに多くのサーバーを使用する場合は、現在利用可能なサーバーからの要求に対応するロードバランサを使用するか、そのいずれかからランダムに使用できます。