2017-06-28 6 views
0

私は、rocsdbのmemtableサイズを制限したいと思います。私はいくつか質問があります: 1、taskmanager.memory.sizeの設定はrocksdb memtableのメモリ量を含んでいますか? 2、rocksdbのmemtableサイズを設定できる設定はありますか?rocksdb memtableのサイズをflinkで設定するには?

答えて

0
  1. RocksDBのメモリは、Flinkのメモリパラメータには含まれていません。 FlinkがRocksDB用に十分なメモリを確保していることを確認する必要があります。しかし、Flinkはステートフルオペレータのインスタンスごとに1つのRocksDBインスタンスを使用するため、これは簡単なことではありません。これは、TaskManagerあたりのRocksDBインスタンスの数が、ジョブ内のステートフルな演算子の数とこれらの演算子の並列性に依存することを意味します(各TMは演算子のほとんどの#slotsインスタンスで実行されます)。

  2. RocksDBStateBackendの設定時に、任意のRocksDBパラメータを渡すことができます。

+0

ご回答ありがとうございます。ちなみに、 "taskmanager.heap.mb"パラメータはストリームジョブに影響しますか?私のストリームジョブは、糸に展開されたクラスタ上で実行されています。私の仕事は、メモリが限られているため、糸で常に殺されます。私は "taskmanager.heap.mb"パラメータを設定しましたが、それでも設定した値を超えています。 –

+0

'taskmanager.heap.mb'パラメータは、TMのJVMのサイズを指定します。しかし、NettyやRocksDBのようなJVM以外のメモリ割り当てもあります。 –

+0

あなたの答えをありがとう。 –

関連する問題