仕事/仕事Stealing ThreadPoolExecutor

Question

私のプロジェクトでは、クライアントから作業要求を受け取るJava実行フレームワークを構築しています。作業（さまざまなサイズ）は一連のタスクに分割され、処理のためにキューに入れられます。各タイプのタスクを処理するキューが別々にあり、各キューはThreadPoolに関連付けられています。 ThreadPoolsは、エンジンの全体的なパフォーマンスが最適になるように設定されています。

この設計は、要求を効果的に負荷分散するのに役立ち、大きな要求がシステムリソースを大量に消費することにはなりません。ただし、キューの一部が空で、それぞれのスレッドプールがアイドル状態になっていると、ソリューションが無効になることがあります。

これをさらにうまくするために、負荷の高いキューが他のThreadPoolsから助けを得ることができるように、作業/タスクのスティッキング技術を実装することを考えていました。しかし、これはJavaが複数のキューをThreadPoolに関連付けることを許さず、仕事盗みの概念をサポートしないので、私自身のExecutorを実装する必要があります。

Fork/Joinについて読むが、私のニーズに合っていないようだ。このソリューションを構築するための提案や代替方法は非常に役に立ちます。

おかげ アンディ

Answer 1

あなたは「プライマリ」キューと0以上の二次キューに裏打ちされたカスタムBlockingQueueの実装を（私はあなたが主にoffer()とtake()メソッドを実装する必要があると思う）実装することができます。 takeは常に空でない場合はプライマリバッキングキューから、それ以外の場合はセカンダリキューからプルできます。

実際、すべての作業者がすべてのキューにアクセスできるが、特定のキューを優先するプールがある方がよい場合があります。あなたは、異なる労働者に異なる優先順位を割り当てることによって、最適な仕事率を思いつくことができます。完全にロードされたシステムでは、作業者は最適な比率で作業する必要があります。負荷の低いシステムでは、作業者は他のキューを手助けすることができます。

Answer 2

ForkJoinPoolとお考えですか？ fork-joinフレームワークは素敵なモジュラー形式で実装されていますので、あなたは単にワークスティールスレッドプールを使うことができます。

Answer 3

Java 8には、Executorsクラスのためのファクトリとユーティリティメソッドがあります。 私はあなたが望むものであると信じている、仕事を盗むスレッドプール（here）の実装があります。