2016-05-05 2 views
1

HortonworksでStormを使用してHbaseとHiveのリアルタイムデータの処理に取り組んでいます。私はトポロジが送信できるカフカブローカからデータを受け取るためにストームトポロジを開発しました私のkafkaspoutと私の2つのボルトを参照してくださいが、私はなぜkafkaSpoutがカフカブローカーからのメッセージを消費しないのですが、私はトポロジーを視覚化するときはわかりません:0%データが消費されました!!hortonworksのストームトポロジとkafkaを設定するプロパティファイル

は、私も自分のhdfsbolt上のエラーを持っている:

java.lang.RuntimeException: Error preparing HdfsBolt: Permission denied: user=storm, access=WRITE, inode="/infos-cliens-v4/staging/infosClientshdfsBolt-4-0-1462472414665.txt":hdfs:hdfs:drwxr-xr-x at 

私@ipは、私は、私はプロパティファイルを修正する必要があると思います192.168.1.78

ですが、私は知らない方法:

#Broker host 
    kafka.zookeeper.host.port=localhost 
    #Kafka topic to consume. 
    kafka.topic=TOPICINFORMATIONSCLIENTS 
    #Location in ZK for the Kafka spout to store state. 
    kafka.zkRoot=/infos_clients_sprout 
    #Kafka Spout Executors. 
    spout.thread.count=1 

    #hdfs bolt settings 
    hdfs.path=/infos-cliens-v4 
    hdfs.url=hdfs://sandbox.hortonworks.com:8020 
    hdfs.file.prefix=infosClients 
    #data will be moved from hdfs to the hive partition 
    #on the first write after the 1st minute. 
    hdfs.file.rotation.time.minutes=1 

    #hbase bolt settings 
    hbase.persist.all.events=false 


    PLZ Help me 

答えて

1

ユーザーは

です

ストーム

しかし、書き込み用のディレクトリはHDFSが所有しています。 だから、そのディレクトリのユーザー権限を変更し、

のchown

コマンドを使用して、ユーザーとして嵐を作ります。

まず、Hbaseに接続できる場合は、Javaコードを使用してチェックします。次に、ストームトポロジーで同じロジックをテストします。

+0

私はユーザーとして嵐を集約したが、私のカフカの注ぎ口は、私がなぜ – Marki

+0

ダブルチェック正しいトピック名、IPまたはホスト名などを知らないメッセージを消費しないおかげで...あなたがのために嵐やカフカのログを確認しましたエラーメッセージ? 。また、STORM UIには手がかりもあります。 Thx –

+0

私はプロデューサーを実行するとこのエラーが発生します! – Marki

0
@Property zk.connect is not valid                 
SLF4J: Failed to load class "org.slf4j.impl.StaticLoggerBinder".                      
SLF4J: Defaulting to no-operation (NOP) logger implementation                       
SLF4J: See http://www.slf4j.org/codes.html#StaticLoggerBinder for further details.                 
16/05/07 10:27:09 WARN common.AppInfo$: Can't read Kafka version from MANIFEST.MF. Possible cause: java.lang.NullPointerException    

    enter code here 
関連する問題