Hbaseクラスタに対するクエリの影響が限定的になる可能性はありますか?Hbaseクラスタでのテーブルスキャン全体の影響を減らすにはどうすればよいですか?
「はい」の場合は、何を達成する必要がありますか?
ユーザーを識別し、クエリの影響を制限したり、リソースを割り当てるためにケルベロスが必要ですか?
phoenixのクエリが悪いと、Hbaseクラスタ全体が強制終了する可能性があります。これは実際に変更したいものです。私はこのトピックのヒントに非常に感謝します。
Hbaseクラスタに対するクエリの影響が限定的になる可能性はありますか?Hbaseクラスタでのテーブルスキャン全体の影響を減らすにはどうすればよいですか?
「はい」の場合は、何を達成する必要がありますか?
ユーザーを識別し、クエリの影響を制限したり、リソースを割り当てるためにケルベロスが必要ですか?
phoenixのクエリが悪いと、Hbaseクラスタ全体が強制終了する可能性があります。これは実際に変更したいものです。私はこのトピックのヒントに非常に感謝します。
2.0より前のバージョンでOLAPクエリを実行すると、Splice Machineに同様の問題が発生しました。 2.0では、Sparkで実装された新しい実行エンジンを導入しました。このエンジンは、HFilesから直接データを読み取り、HBase Memstoreからのデータとマージするハイブリッドスキャナを使用しています。このため、大規模スキャンの領域サーバへの影響を最小限に抑え、メモリデータ内のHBaseにのみアクセスするからです。
our repositoryで実装した方法を確認できます。主なクラスはSplitRegionScannerとMemstoreAwareObserverです。
好奇心を要しています:HFaseがSparkクエリの持続時間(HBaseスナップショットを使用して)に一貫していることを確認する方法を教えてください。 –
@SamsonScharfrichter私たちはスキャンが一貫していることを確認するために、コプロセッサ(前にリンクしたMemstoreAwareObserver)を使用します。コンパクションや分割が実行されている場合(数ミリ秒間)、スキャンがその領域で実行されている間は圧縮/分割をブロックします。 –