1
私はIntellijでScala Projectをビルドし、Apache Sparkの例を実行しようとしています。ここに私のコードは次のとおりです。intellijでSpark-Scalaの例を実行中にエラーが発生しました
package sparkTraining
import org.apache.spark.{SparkConf, SparkContext}
object SimpleApp {
def main(args: Array[String]) {
val logFile = "/usr/local/spark/README.md"
val conf = new SparkConf().setAppName("Simple Application")
val sc = new SparkContext(conf)
val logData = sc.textFile(logFile, 2).cache()
val numAs = logData.filter(line => line.contains("a")).count()
val numBs = logData.filter(line => line.contains("b")).count()
println(s"Lines with a: $numAs, Lines with b: $numBs")
sc.stop()
}
}
私はのIntelliJのスカラ座やSBTプラグインをインストールしているし、ここで私のbuild.sbtコードです:
name := "sparkTraining"
version := "1.0"
scalaVersion := "2.12.0"
は、と私はすべてのSaprk 2.0.1のjarファイルを追加しましたプロジェクト。しかし、私はそれをエラーコードのこの部分を実行すると、問題がされています
Exception in thread "main" java.lang.NoSuchMethodError: scala.Predef$.refArrayOps([Ljava/lang/Object;)Lscala/collection/mutable/ArrayOps;
at org.apache.spark.util.Utils$.getCallSite(Utils.scala:1410)
at org.apache.spark.SparkContext.<init>(SparkContext.scala:77)
at sparkTraining.SimpleApp$.main(testScala.scala:9)
at sparkTraining.SimpleApp.main(testScala.scala)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at com.intellij.rt.execution.application.AppMain.main(AppMain.java:147)
を私はそれを検索し、私は、任意の有用な答えを見つけることができませんでした。ここで
一部ポイントがです:
- 私は2人のユーザー、USER1とhduser、およびHadoopの、スパークやスカラ座などのすべての私のビッグデータプロジェクトを持っているhduser下にあり、すべてのパスが設定されていますhduser .bashrcではIntellijはルートの下にあります(/ optフォルダ内)。
- このコードを実行している間、私のマシンでSparkが動作していません。
これら2つのポイントは、実行に影響しますか? 問題をどうやって解決できますか? ありがとう
すべての依存関係も投稿してください – Shem
これはscalaバージョンの不一致によるものです –