新生児の火花とスケーラー。私はintellij-ideaで非常に簡単なスパークプログラムを実行しようとしています。それはやっているすべては、次のとおりです。spark scalaはjava.lang.classのコーデックを見つけることができません
- 接続のMongoDBデータベースに特定のコレクションへ
- ロードデータ
- 最初のレコードを印刷します。
それは素晴らしい仕事をしていたが、今ではエラーを投げている:ここでは
org.bson.codecs.configuration.CodecConfigurationException: Can't find a codec for class java.lang.Class.
は私のコードです:ここでは
import org.apache.spark.{SparkConf, SparkContext}
import com.mongodb.spark._
import com.mongodb.spark.rdd.MongoRDD
import org.bson.Document
import com.mongodb.spark.config._
import org.apache.spark.sql.SQLContext
import com.mongodb.spark.sql._
import scala.reflect.runtime.universe._
object Analytics1 {
def main(args: Array[String]) {
val conf = new SparkConf().setAppName("Analytics1").setMaster("local").
set("spark.mongodb.input.uri","mongodb://192.168.56.1:27017/events.entEvent")
.set("spark.mongodb.output.uri", "mongodb://192.168.56.1:27017/events..entResult")
val sc = new SparkContext(conf)
val rdd = sc.loadFromMongoDB()
println(rdd.first())
sc.stop()
}
}
は私.sbtです。私は、スパークの最新バージョンを使用している場合、それは数日前まで細かい仕事をしていた私は1.6.1を使用していますので、
Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/spark/sql/DataFrame
このエラー、を投げるが、今では
を投げていますjava.lang.class
エラーです。誰かが私が動くように助けてください。これは非常に基本的なものなので、誰かが助言を捨てて私をブロック解除することを期待しています。
ありがとうございました。
name := "Simple Project"
version := "1.0"
scalaVersion := "2.11.7"
// libraryDependencies += "org.apache.spark" %% "spark-core" % "1.6.1"
libraryDependencies += "org.apache.spark" %% "spark-core" % "1.6.1"
//libraryDependencies += "org.apache.spark" % "spark-mllib_2.11" % "1.6.1"
libraryDependencies += "org.apache.spark" %% "spark-mllib" % "1.6.1"
//libraryDependencies += "org.mongodb.spark" % "mongo-spark-connector_2.10" % "1.1.0"
libraryDependencies += "org.mongodb.spark" %% "mongo-spark-connector" % "1.1.0"
libraryDependencies += "org.mongodb.scala" %% "mongo-scala-driver" % "1.2.1"
libraryDependencies += "org.apache.spark" %% "spark-sql" % "1.6.1"
resolvers += "Akka Repository" at "http://repo.akka.io/releases/"
resolvers += "snapshots" at "https://oss.sonatype.org/content/repositories/snapshots/ "
resolvers += "releases" at "https://oss.sonatype.org/content/repositories/releases/"
人々を参照してくださいスワップラインをする上で
この問題は、以下のWanのコメントをすべてお読みください。 – Vamsi