2017-03-21 8 views
0

私はKafka SpoutからJSONデータを受け取り、2つのボルトを処理し、hdfs-ボルト。 Kafka 0.8.2.1とHadoop 2.5.0でStorm 0.9.6を使用すると、これは完全に機能しました。私がこれを実装した生産システムは、ツールをStorm 1.0.2、Kakfa 0.10.1.0、およびHadoop 2.6.0にアップデートすることです。上記のバージョンのパッケージ情報を更新すると、hdfsボルトはスパウトからデータを送信する前に "ゴースト"タプルを開始します。トポロジが終了するまで、UIに嫌なことが表示され続けます。さらに、実際にデータを処理するときに、メッセージがhdfsに書き込まれることがあります。ほとんどの場合、何も出力されません。どのようなバージョンの違いがこのような問題を引き起こすかについてのアイデア?Storm 1.0.2 hdfs-boltデータが送信されない場合のタプル

+0

あなたの実装のコード/コードスニペットは、貴重な入力を提供する上で、また他の人が学習する上でより良い問題の理解に役立ちます。 – vmorusu

答えて

0

わかりませんが、あなたのボルトに放出されるティックタプルに直面している可能性があります。

public void execute(Tuple tuple, BasicOutputCollector oc){  
    if (!TupleUtils.isTick(tuple)) 
    { 
     //Your code 
    } 
} 
+0

お返事ありがとうございます。今日は後でそれを試してみる。奇妙なことは、それはhdfsボルトだけで、他のボルトのどれもではないということです。また、多数のタプルを処理すると、タプルが完全に処理され、レコードがhdfsに書き込まれることがわかりました。約7〜20件のレコードでテストファイルを送信できません。私はuiを更新し、すべてのタプルの後にhdfsに書き込むように設定しました。その問題についての洞察? – kwa

関連する問題