HTTP負荷分散用のメッセージバスを探しています

Question

私は、パフォーマンスが優れたスタンドアロンワーカーとHTTPアプリケーションを持っています。問題は、キャッシュをパージして再構築する必要があることがあるため、最大30秒間応答を停止することです。

私はいくつかのロードバランサを調べましたが、どれもこの問題に対処していないようです。私はPerlbalといくつかのApacheモジュール（fcgidのような）を試していて、彼らはキャッシュを再構築するのに忙しい労働者に喜んでリクエストを送ります。

私のテイクはこれです：すべてのhttp要求が待ち行列に入れられている何らかの種類のメッセージバスソリューションではありません。メッセージを処理できるようにワーカーに任せていますか？

- あるいは、ワーカーが何度か応答できないことを考慮に入れることができるロードバランサ。

は後に追加されました：私は戦略は、労働者は、彼らが、忙しいロードバランサを知らせるために管理プロトコルを使用することができることをすることができることを認識していますが、そのソリューションはクルージようだと私はいくつかのエッジケースがあるであろうことを心配します偽のエラーが発生します。

Answer 1

私はここで2つの戦略を見ています：期間中にワーカーをオフラインにすると、バランサーはそれを放棄します。逆の制御 - 労働者がバランサーからタスクを引き出すのではなく、バランサーがタスクを労働者にプッシュするのではなく、 Message Queueで簡単に実行できる2番目の戦略。

Answer 2

Amazon Web Services Load Balancerを使用している場合は、目的の結果が得られます。このキャッシュ・パージと再構築を実行している間は、Elastic Load Balancer（ELB）の背後にあるEC2インスタンスを正常でないとマークできます。

私が行うことは、たとえば、rebuild_cacheと呼ばれる各インスタンスの追加のエンドポイントを作成することです。したがって、ELBの背後に5つのインスタンスがある場合は、そのrebuild_cacheエンドポイント上の個々のインスタンス（ロードバランサを介さずに）にスクリプトを作成できます。このエンドポイントは3つのことを行います：

1. インスタンスを不健全なものとしてマークします。ロードバランサは、正常性チェックが失敗した後に正常でないことを認識します（正常性チェックのタイミングとしきい値はAWS Web Consoleから設定可能です）。
2. キャッシュパージを実行して再構築
3. インスタンスを正常とマークします。ロードバランサは、インスタンスのヘルスチェックを実行し、正常なヘルスチェックの必要な量だけ健康になったらトラフィックを送信します（このスレッショルドはELBヘルス設定によって定義されます）。