私のウェブサイトでリクエストが行われるたびに、そのイベントに関するいくつかのデータがデータベースに記録されます(Yandex ClickHouse)。 ClickHouseは、挿入が少なくとも1000以上の大きさで実行されている場合、劇的に高速に動作します。すべての要求に対して、データを保存する別のコンピュータにデータを送信し、バッファがいくつかのサイズに達するとデータベースにフラッシュします。私はRabbitMQをメッセージの受け渡しやバッファリングに使用することを検討していますが、それが正しいツールであるとは思えません。助言がありますか?バルク挿入のバッファデータ
0
A
答えて
0
うん、それはあなたのユースケース のための適切なツールですRabbitMQのも、あなたたちはnginxのは、syslogサーバにJSON形式でアクセスログを送信できるように選択した https://clickhouse.yandex/docs/en/table_engines/buffer.html
1
使用バッファテーブルエンジンを試すことができます(のsyslog-ngの) syslog-ngは外部アプリケーションを使用できます。アプリケーションにデータをSTDINできます。クリックハウスに一括挿入するためのgolangユーティリティを作成しました。
これは私たちにとって非常にうまく機能しました。
また、ウサギと大量挿入から消費するゴランツールをクリックハウスに書き込むこともできます。
ピーク時に私たちは毎秒140 kメッセージを行っているので、golangは1秒間に1つのクエリを実行すると書いています。そのため、1秒あたりのメッセージ量に応じて自動的にスケールが上下します。この目的のために直接作成
1
Bufferテーブルエンジン。 まもなく、このタイプのエンジンでテーブルを作成し、このテーブルに書き込むか、このテーブルから読み込みます。 すべてのレコードはRAMにバッファリングされ、設定に従って自動的にソーステーブルにフラッシュされます。
関連する問題
- 1. kohanaバルク挿入
- 2. バルク挿入エラーエンティティフレームワーク
- 3. AsyncQueryHandlerバルク挿入
- 4. ファイルフィールドのバルク挿入
- 5. ハンドルのバルク挿入
- 6. バルク挿入SQLサーバー
- 7. バルク挿入質問
- 8. バルク挿入Python SQL
- 9. mongooseバルク挿入エラー
- 10. Oracleのバルク挿入パフォーマンス
- 11. elasticsearchバルク挿入エラーのロールバック
- 12. React-native SQLiteバルク挿入
- 13. SQLバルク挿入UTF-8
- 14. バルク挿入 - エンティティへのLinqの処理
- 15. asp.net内のSQLのバルク挿入C#
- 16. バルクmongoDBに複数のレコードを挿入
- 17. パーティションテーブルとテーブルレベルロックへのバルク挿入
- 18. バルク挿入/更新のエンティティフレームワーク代替メソッド
- 19. 削除データは、挿入バルク文の
- 20. CSVファイルのバルク挿入問題
- 21. SQL Serverのバルク挿入と更新
- 22. データのバルク挿入にRavenDBを使用
- 23. Parameterize Microsoft SQL Serverのバルク挿入2014
- 24. Oracle PL/SQLでのバルク挿入
- 25. JPA/Hibernateのバルク挿入が遅い
- 26. 日付付きのSQL Serverバルク挿入
- 27. バルク挿入エラーメッセージSQL Server 2008 R2
- 28. Spring/Hibernateを使用したバルク挿入
- 29. Visual Studio C#Linqバルク挿入/更新
- 30. SSIS-OleDb高速ロード対バルク挿入タスク