リアルタイムシステムでのJavaガベージコレクションの制御

Question

私たちはJavaでRTシステムを実行しています。比較的大きなヒープ（100 + GB）を頻繁に使用し、メッセージキューからの要求を処理します。 SLAを満たすには、各要求を高速に処理する必要があります（< 100ms）。

GCがリクエスト（200 + ms）中に世界を停止させて失敗することがよくあるため、GC関連の深刻な問題が発生しています。

GCの合理的な知識を持つ開発者の一人は、GCパラメータの調整やさまざまなGCの試行にかなりの時間を費やしました。数日後、彼は「遺伝的アルゴリズムによって進化した」という冗談を呼んでいるいくつかのパラメータを思いついた。 GCの休止時間は短縮されますが、まだSLAの要件を満たしていません。

私が探しています解決策は、にある次の要求をとる前に、GCからのコードのいくつかの重要な部分を保護し、要求が終了した後、それが必要としてGCが同じくらい仕事をさせて、。私たちには数人の労働者がいて、ごみ収集労働者はしばらくの間は依頼を要求しないので、要求以外の一時停止は問題ありません。

私は、愚かな醜いいくつかのアイデアを持っているし、おそらく動作していない、うまくいけば、彼らは問題説明：

• 時々にいくつかの作業を行うためにGCのために祈って、受信スレッドでThread.sleep()を呼び出しをそれが支援するため、その間、
• 起動System.gc()または要求間のRuntime.gc()は、再び絶望的https://stackoverflow.com/a/6915221/1137187のようなハックのパターンと全く
• メス、コードを祈ります。

最後に重要なのは、私たちは低予算のスタートアップであり、Zing®などの商用ソリューションはオプションではないということです。私たちは非商用ソリューションを探しています。

アイデア？私たちはコードをC++に書き直しました（最初は解でなくGCが問題であるかもしれません）が、コードベースはあまりにも大きすぎて実行できませんでした。

Answer 1

別のJVMを使用しますか？ Azulはそのようなケースを処理できると主張しています。 Redhatは同様の目標を念頭に置いてopenjdkにshenandoahを寄稿していますので、商用ソリューションが必要ない場合は実験的なビルドを試すことができます。

リアルタイムアプリケーションに焦点を当てた他のJVMもありますが、私が理解しているように、より小さいシステムではより難しいリアルタイム要件に焦点を当てています。

事前割り当てオブジェクトまたは適用可能な場合はよりコンパクトなデータ表現を使用することによって、オブジェクト割り当てを大幅に減らすことができます（アプリケーションのプロファイリング）。新しい世代のサイズを同じに保ちながら配分圧力を下げると、コレクションごとの死亡率が増加し、若いコレクションのスピードを上げることになります。

メモリ帯域幅を最大限に活用するためにハードウェアを選択することも役立ちます。-XX:+ExplicitGCInvokesConcurrentと組み合わせたとき

呼び出しにSystem.gc（）または要求間のRuntime.gcは（）、再び絶望的にそれ以外の場合はトリガし、

このかもしれないが、それは助けるために仕事を祈りますCMSまたはG1（私はあなたがそれらの1つを使用していると仮定している）とのシングルスレッドSTWコレクション。しかし、そのアプローチは脆弱であるように見え、多くのチューニングと監視が必要です。