小さなヒープを持つマイクロサービスのXmx/GCのデフォルトの設定

Question

私の会社では、JVMベースのマイクロサービスでアプローチを試みています。それらは水平にスケーリングされるように設計されているため、比較的小さなコンテナ（最大2Gヒープ、通常は1-1.5G）を使用して、それぞれ複数のインスタンスを実行します。使用するJVMは1.8.0_40-b25です。

このようなインスタンスのそれぞれは、最大250 MB/sのメモリ割り当て率で最大100 RPSを処理します。

問題は、どのような種類のGCが最初から安全で分かりやすいデフォルトになるのでしょうか？これまで、Xms = Xmx（ヒープリサイズ中のポーズを避ける）とXms = Xmx = 1.5GのCMSを使用しています。結果はまあまあです - メジャーGCが実行されたことはほとんどありません。

私はG1が（全体のスループットを犠牲にして）より小さい休止を与えることができることを知っていますが、AFAIKは適切に動作するにはもう少し「呼吸」スペースと少なくとも3-4Gのヒープが必要です。

ヒント（Azul's Zing：Dに行く以外に）

Answer 1

ヒント＃1：実験を行う！

マイクロサービスが少なくとも2つのノードに配置されていると仮定すると、1つはCMSで、もう1つはG1で、もう1つは応答時間です。

G1のパフォーマンスが元のクラスターサイズの半分を必要とするほど良いとわかっていればどうでしょうか？

サイドノート：

• 再：「250MB/sの」 - >このすべては、メモリ（それは若い世代だ場合、代わり、）コレクションは、これらの領域を形成するので、その後G1はほとんど利益を提供するだろうが自由であるスタックされている場合。
• ： "100 RPS" - 多くの場合、私たちのプロダクションでは、（プロキシ設定またはアプリケーションコンテナレベルのいずれかを介して）システムの同時リクエストを減らすとスループットが向上することがわかりました。小さいヒープを考えると、小さなCPU数（2〜4）がある可能性が非常に高いです。
• さらに、公式のOracleヒントon tuning for a small memory footprintがあります。それは1.8_40で利用可能な最新の設定を反映していないかもしれませんが、とにかく読むのは良いです。

Answer 2

フルGC後にどれだけのメモリが保持されるかを測定します。マイナーGCをどのくらいの頻度で保持したいかによって、1秒間に割り当てられるメモリの量を2〜10倍に増やしてください。例えば2秒ごとまたは10秒ごとに実行されます。

など。完全なGCとGCingの後に最大500 MBが2秒ごとに保持され、500 MB + 2 * 250 MB、または約1 GBのヒープを持つことができます。

RPSの数は重要ではありません。