2016-03-30 11 views
0

こんにちは皆さん、ありがとうございます: Sparkで処理するためにHadoopクラスターでJSONオブジェクトを送信しようとしていますが、このJSONは約15KBです。私は私の水路エージェントをこのように設定します。その場合を除きNetcatSource:クライアントが最大長を超えて送信しました

a1.sources = r1 
a1.sinks = k1 
a1.channels = c1 

# Describe/configure the source 
a1.sources.r1.type = netcat 
a1.sources.r1.bind = localhost 
a1.sources.r1.port = 41400 
a1.sources.r1.max-line-length = 512000 
a1.sources.r1.eventSize = 512000 
#a1.sources.deserializer.maxLineLength = 512000 

# Describe the sink 
a1.sinks.k1.type = hdfs 
a1.sinks.k1.hdfs.path = /hadoop/hdfs/data 
a1.sinks.k1.hdfs.filePrefix = CDR 
a1.sinks.k1.hdfs.callTimeout = 15000 
a1.sinks.k1.hdfs.fileType = DataStream 
a1.sinks.k1.hdfs.writeFormat = Text 
a1.sinks.k1.hdfs.rollSize = 0 
a1.sinks.k1.hdfs.rollCount = 226 
a1.sinks.k1.hdfs.rollInterval = 0 
a1.sinks.k1.hdfs.batchSize = 226 

# Use a channel which buffers events in memory 
a1.channels.c1.type = file 
a1.channels.c1.capacity = 512000 
a1.channels.c1.transactionCapacity =512000 

# Bind the source and sink to the channel 
a1.sources.r1.channels = c1 
a1.sinks.k1.channel = c1 

を、私はポートにソケットが示されたJSONオブジェクトトラフを送るperlのスクリプトを持っていますが、私は水路エージェントを起動したとき、私はこのメッセージが表示されます。

WARN source.NetcatSource: Client sent event exceeding the maximum length 

私の理解できないことは、私のイベントの最大行長を512KBに設定したことです。これは15KBより大きく、誰でも助けてくれますか? 私の悪い英語をありがとうと申し訳ありません

答えて

関連する問題