2016-09-01 8 views
0

私は、hereという方法でSpark-Streamingでセカンダリソートを行っていました。SparkSteamingで二次ソートを行う方法

repartitionAndSortWithinPartitions is not a member of org.apache.spark.streaming.dstream.DStream 

コード::だから

def ProcessDStream(lines : DStream[EventData]) {    
      val dataSetrawSorted = lines.repartitionAndSortWithinPartitions(new DataSetPartitioner(1000)) 
      } 

、DSTREAMで同じことを達成するためにどのようにしかし、それは、次のエラーが発生します。

答えて

0

使用すると、変換:

stream.transform { rdd => rdd.repartitionAndSortWithinPartitions(...) } 
+0

を上記の構文 '値repartitionAndSortWithinPartitionsをかけながら、私はこのエラーを取得していますorg.apache.spark.rdd.RDD'のメンバーではありません – Naresh

関連する問題