私はKafka SpoutからJSONデータを受け取り、2つのボルトを処理し、hdfs-ボルト。 Kafka 0.8.2.1とHadoop 2.5.0でStorm 0.9.6を使用すると、これは完全に機能しました。私がこれを実装した生産システムは、ツールをStorm 1.0.2、Kakfa 0.10.1.0、およびHadoop 2.6.0にアップデートすることです。上記のバージョンのパッケージ情報を更新すると、hdfsボルトはスパウトからデータを送信する前に "ゴースト"タプルを開始します。トポロジが終了するまで、UIに嫌なことが表示され続けます。さらに、実際にデータを処理するときに、メッセージがhdfsに書き込まれることがあります。ほとんどの場合、何も出力されません。どのようなバージョンの違いがこのような問題を引き起こすかについてのアイデア?Storm 1.0.2 hdfs-boltデータが送信されない場合のタプル
0
A
答えて
0
わかりませんが、あなたのボルトに放出されるティックタプルに直面している可能性があります。
public void execute(Tuple tuple, BasicOutputCollector oc){
if (!TupleUtils.isTick(tuple))
{
//Your code
}
}
+0
お返事ありがとうございます。今日は後でそれを試してみる。奇妙なことは、それはhdfsボルトだけで、他のボルトのどれもではないということです。また、多数のタプルを処理すると、タプルが完全に処理され、レコードがhdfsに書き込まれることがわかりました。約7〜20件のレコードでテストファイルを送信できません。私はuiを更新し、すべてのタプルの後にhdfsに書き込むように設定しました。その問題についての洞察? – kwa
関連する問題
- 1. メッセージが送信されない場合でも、送信ボタンが隠れているのはなぜですか?
- 2. データが送信されない理由
- 3. POSTデータが送信されない
- 4. Python UDPソケットはデータが受信されない場合にデータを再送信します
- 5. nimbus.hostはStorm 1.0.2バージョンで有効なオプションですか?
- 6. HTTPヘッダーが既に送信されている場合
- 7. パスワードを忘れた場合は、Gmailアカウントにメッセージが送信されない
- 8. レスポンスが送信されず、httpヘッダーデータが送信されない
- 9. req.bodyから送信されたデータが返されない
- 10. Apache Flink - x分間のデータがない場合にイベントを送信する
- 11. NGINXが大きなファイルを送信すると、すべてのデータが送信されない場合があります。
- 12. アプリがバックグラウンドモードの場合、リクエストは送信されません。オプション
- 13. リクエストVolley、時にはデータが受信されない場合があります
- 14. テキスト入力が1つのhtmlフォームがある場合は、送信ボタンがない場合でも入力を押しても送信されますか?
- 15. アンドロイドアプリから送信されたPOSTデータがPHPファイルで受信されない
- 16. 送信者がgstreamerでデータを送信しない場合でもパイプラインを記録する方法
- 17. 入力タイプが「送信」でない場合のHTML5の検証
- 18. データがデータベースに送信されていない
- 19. セッションのデータがフォームに送信されない
- 20. Internet Explorer 10でAjaxの投稿データが送信されない
- 21. Ajaxオートコンプリート入力フィールド無しのデータが送信されない
- 22. Ajax POSTデータがASP.NETのPage_Loadメソッドに送信されない
- 23. TPLデータフローログアイテムがITargetblockに送信される場合
- 24. Ajaxフォームが送信されなかった場合の画像の削除
- 25. 確認リンクが送信されても確認リンクが送信されないPHPメールが送信される
- 26. ブートストラップの統合後にレールが送信されない
- 27. Struts 2、AngularJS:新しいデータがある場合にクライアント側にデータを送信
- 28. ラジオボタンがチェックされていない場合にフォームを送信しないでください。
- 29. /Elseステートメントが別のメールを送信しない場合
- 30. 名前フィールドが空の場合はフォームを送信しない
あなたの実装のコード/コードスニペットは、貴重な入力を提供する上で、また他の人が学習する上でより良い問題の理解に役立ちます。 – vmorusu