2016-10-10 10 views
0

私はKafkaでSparkストリーミングのために以下のAPIを使用しようとしています。私はsproでavroシリアル化されたデータをストリームしなければならない、データはカフカに位置しています。JavaInputDStreamの "クラス<R> recordClass"とは何ですか?

static <K,V,KD extends kafka.serializer.Decoder<K>,VD extends kafka.serializer.Decoder<V>,R> 
    JavaInputDStream<R> createDirectStream(JavaStreamingContext jssc, Class<K> keyClass, Class<V> valueClass, Class<KD> keyDecoderClass, Class<VD> valueDecoderClass, Class<R> recordClass, java.util.Map<String,String> kafkaParams, java.util.Map<kafka.common.TopicAndPartition,Long> fromOffsets, Function<kafka.message.MessageAndMetadata<K,V>,R> messageHandler) 
    :: Experimental :: Create an input stream that directly pulls messages from Kafka Brokers without using any receiver. 

私が知っていることがありますか?APIのクラスclass recordClassには何が必要ですか?私は以下のようなAPIを使用していますが、コンパイルエラーです。

私が望むのは、カフカからのスパークストリーミングにバイトストリームデータを受信することだけです。

JavaInputDStream<byte[]> directKafkaStream = KafkaUtils.createDirectStream(jsc, String.class, byte[].class, 
     StringDecoder.class, DefaultDecoder.class, byte[].class, kafkaParams, topicMap, 
     (Function<MessageAndMetadata<String, String>, String>) MessageAndMetadata::message); 

Exception in thread "main" java.lang.Error: Unresolved compilation problems: The method createDirectStream(JavaStreamingContext, Class, Class, Class, Class, Class, Map, Map, Function,R>) in the type KafkaUtils is not applicable for the arguments (JavaStreamingContext, Class, Class, Class, Class, Class, Map, Map, Function,String>)

答えて

4

これを試してみてください。

JavaInputDStream<byte[]> directKafkaStream = KafkaUtils.createDirectStream(jssc, String.class, byte[].class, 
       StringDecoder.class, DefaultDecoder.class, byte[].class, kafkaParams, fromOffset, 
       (Function<MessageAndMetadata<String, byte[]>, byte[]>) MessageAndMetadata::message); 

Hereは、カフカ、アブロ、スパークの記事です。

関連する問題