2
Spark streaming
に示されているデフォルト出力を無効にする方法はありますか?スパークストリーミングアプリケーションを実行しているときに出力されるデフォルトの出力は次のとおりです。私は、私だけで追加されます(ドライバ内)のログメッセージを見たいのですが印刷されますスパークストリーミングでのデフォルト出力の停止
spark-submit --class a11_TCP_IP.a11_Basic.a11_HelloTcp target/scala-2.10/sparkstreamingexamples_2.10-1.0.jar
16/04/27 13:20:15 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data
16/04/27 13:20:15 ERROR ReceiverTracker: Deregistered receiver for stream 0: Restarting receiver with delay 2000ms: Socket data stream had no more data
16/04/27 13:20:17 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data
16/04/27 13:20:17 ERROR ReceiverTracker: Deregistered receiver for stream 0: Restarting receiver with delay 2000ms: Socket data stream had no more data
-------------------------------------------
Time: 1461777618000 ms
-------------------------------------------
16/04/27 13:20:19 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data
16/04/27 13:20:19 ERROR ReceiverTracker: Deregistered receiver for stream 0: Restarting receiver with delay 2000ms: Socket data stream had no more data
-------------------------------------------
Time: 1461777621000 ms
-------------------------------------------
16/04/27 13:20:21 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data
感謝を。それはERROR&WARNを処理します。しかし、私はまだこの出力を得ています。------------------------------------------ - 時間:1462045608000 ms ------------------------------------------- ' – Raj
ok。私はついに確認しました。 'DStream'の出力操作です。 'Dstream.print()'はデフォルトでその出力を与えます( '---- Time:....')。問題を取り除くのに役立つ別の出力操作 'DStream.foreachRDD(..)'を使用しました – Raj