私はアプリケーションログの取り込みのための単純なパイプラインを設定する作業をしています。 このパイプラインの前提条件は、トランスポートプロトコルとしてkafkaを使用することです。 私が理解しているように、flumeにはログファイルを取り込む機能が組み込まれています。 flumeをプロデューサーとして使用し、その出力をkafkaトピックに渡す方法はありますか?flumeをカフカプロデューサとしてログの取り込みに使用できますか?
1
A
答えて
2
はい、FlumeをKafkaのプロデューサとして使用できます。 Flumeが提供するこのAPIをご覧ください。https://flume.apache.org/releases/content/1.6.0/apidocs/org/apache/flume/sink/kafka/KafkaSink.html
0
はい、利用できます。前の応答で指定されているとおりです。
# Sources, channels, and sinks are defined per
# agent name, in this case flume1.
flume1.sources = kafka-source-1
flume1.channels = hdfs-channel-1
flume1.sinks = hdfs-sink-1
# For each source, channel, and sink, set
# standard properties.
flume1.sources.kafka-source-1.type = org.apache.flume.source.kafka.KafkaSource
flume1.sources.kafka-source-1.zookeeperConnect = ...
:
はちょうどあなたがと同様の構成を行う必要があることを追加したいです
関連する問題
- 1. apache flumeを使用してtxtファイルからログを読み取る方法
- 2. Flume solrSink、エラーなし、データをSolrに取り込みません
- 3. C#を使用してデータセットヘッダーにcomboxを取り込みます
- 4. スタックオーバーフローの取得log4jを使用してログを書き込むときのエラー
- 5. Flumeを使用してTwitterデータを取得できない
- 6. C++ Winsockを使用してソケットからの書き込み/読み取り
- 7. PCSC APIを使用してスマートカードにデータを書き込み、読み取ることはできますか?
- 8. 読み取りと書き込みJSONファイル使用してjavascriptの
- 9. カフカプロデューサを別のスレッドで使用する
- 10. バッチファイルにログ書き込みを追加できますか?
- 11. ドロップダウンを使用してjsonからのデータをテーブルに取り込みます
- 12. アドバンスカスタムフィールドを使用して画像を取り込みます
- 13. 名前付きFIFOパイプはディスクの書き込みと読み取りを使用しますか?
- 14. 配列としてFullCalendarイベントを取り込みます - 別の配列からデータを取り込みます
- 15. NIO2 AsynchronousSocketChannel CompletionHandlerを使用して完全に読み取り/書き込み
- 16. Ruby組み込みRSSモジュールを使用して原子フィードを読み取ることはできますか?
- 17. Reflectを使ってログに書き込みを追加する
- 18. ラムダによって取り込まれた変数にアクセス(読み込み専用)できますか?
- 19. stdoutをfluentdソースとして使用して、特定のログを取得してelasticsearchに書き込むことはできますか?
- 20. Flume NGを使用してコンソールでログを収集するにはどうすればよいですか?
- 21. Whileループを使用してT-SQLに列を取り込み
- 22. silverlightを使用してレジストリに書き込みますか?
- 23. 読み取り/書き込みアクセス違反libfreenect2を使用しているC++
- 24. C#ファイルを読み取り専用で読み取り/書き込みする
- 25. JavaScriptを使用してテーブルにデータを動的に取り込みます。
- 26. デバッグアプリケーション用のxcodeでファイルの読み取り/書き込みログを表示する方法
- 27. 「読み取り専用ページへの書き込み」エラーとは何ですか?
- 28. 1つのファイルをバッファとして使用できますか?私。同時に書き込みと読み取りを行う
- 29. flumeでtwitterデータを取得しようとしています
- 30. Asp.Net MVCでJavaScriptを埋め込みリソースとして使用できますか?