3台のサーバからなるkafkaクラスタからsyslogサーバに書き込むためにlogstash inorderへの読み込みを試みています。 私はsyslogを書き留めていますが、logstashのドキュメンテーションサイトでさえ、私はkafkaからlogstashへの読み方を見つけることができません。logstashプラグインへのKafka入力
Logtashバージョン:5.2.2 カフカバージョン:0.10.2 Scalaのバージョン:2_11
私は、これは行って、APIバージョンを見て、 LOGSTASH_CORE_PLUGIN_API = "2.1.12"
コンフィグ私は
input {
# file
# {
# path => "/opt/logstash/NOTICE.TXT"
#
# #DEBUG below
# #path => "../fsdfdstt.log"
# start_position => "beginning"
# sincedb_path => "/dev/null"
# }
kafka
{
zk_connect => "localhost:2181"
topic_id => "kafkatest2"
}
}
output
{
syslog
{
host => ["targetserver"]
port => port#
}
}
を使用しようとしました。しかし、これは私が取得していますエラーです...
[2017-03-15T10:24:17,000][ERROR][logstash.inputs.kafka ] Unknown setting 'zk_connect' for kafka
[2017-03-15T10:24:17,008][ERROR][logstash.inputs.kafka ] Unknown setting 'topic_id' for kafka
[2017-03-15T10:24:17,015][ERROR][logstash.agent ] Cannot load an invalid configuration {:reason=>"Something is wrong with your configuration."}
また、カフカ入力で 'group_id'を使用している人がいました。私のクラスタにgroupidがあるかどうかはわかりません。あなたのkafka
入力の設定ではなく、このようにする必要がある
おかげで、 カラン
ので、私は CDは/ opt /カフカ/のようなものを持っている必要があります。 bin/kafka-console-consumer.sh - zookeeper server1:2181、server2:2181、server3:2181 --topic kafkatest2 --from-beginning すべての3つのサーバーにありますか? 私は各サーバで動物園とカフカを走らせています。 – ScipioAfricanus
'kafka'入力プラグインはあなたのカフカの話題を消費しているので、他のコンシューマーを起動する必要はありません。 Kafkaが既に稼働している場合は、Logstashを起動するだけで、あなたの 'kafkatest2'トピックにはどんな土地も消費されます。 – Val
ねえ、それはすべて働いて、ありがとう。 – ScipioAfricanus