0
こんにちは皆さん、ありがとうございます: Sparkで処理するためにHadoopクラスターでJSONオブジェクトを送信しようとしていますが、このJSONは約15KBです。私は私の水路エージェントをこのように設定します。その場合を除きNetcatSource:クライアントが最大長を超えて送信しました
a1.sources = r1
a1.sinks = k1
a1.channels = c1
# Describe/configure the source
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 41400
a1.sources.r1.max-line-length = 512000
a1.sources.r1.eventSize = 512000
#a1.sources.deserializer.maxLineLength = 512000
# Describe the sink
a1.sinks.k1.type = hdfs
a1.sinks.k1.hdfs.path = /hadoop/hdfs/data
a1.sinks.k1.hdfs.filePrefix = CDR
a1.sinks.k1.hdfs.callTimeout = 15000
a1.sinks.k1.hdfs.fileType = DataStream
a1.sinks.k1.hdfs.writeFormat = Text
a1.sinks.k1.hdfs.rollSize = 0
a1.sinks.k1.hdfs.rollCount = 226
a1.sinks.k1.hdfs.rollInterval = 0
a1.sinks.k1.hdfs.batchSize = 226
# Use a channel which buffers events in memory
a1.channels.c1.type = file
a1.channels.c1.capacity = 512000
a1.channels.c1.transactionCapacity =512000
# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1
を、私はポートにソケットが示されたJSONオブジェクトトラフを送るperlのスクリプトを持っていますが、私は水路エージェントを起動したとき、私はこのメッセージが表示されます。
WARN source.NetcatSource: Client sent event exceeding the maximum length
私の理解できないことは、私のイベントの最大行長を512KBに設定したことです。これは15KBより大きく、誰でも助けてくれますか? 私の悪い英語をありがとうと申し訳ありません