2017-07-20 6 views
0

既に他のトピックをチェックしましたが、良い解決策が見つからなかったので、私はintelliJ Ideaで作業しています。ここでspark-submitを使用してjarを送信する際にClassNotFoundExceptionが発生しました

は私のコードです:ここで

import org.apache.spark.SparkContext 
import org.apache.spark.SparkConf 

object mdr { 
    def main(args: Array[String]) { 
    val logFile = "C:/Users/me/README.md" 
    val jarfile = "file:///C:/Users/me/IdeaProjects/untitled/out/artifacts/untitled_jar/untitled.jar" 
    val conf = new SparkConf().setAppName("Simple Application").setMaster("local[*]").setJars(Array(jarfile)) 
    conf.set("spark.eventLog.enabled", "true") 
    conf.set("spark.eventLog.dir", "file:///C:/Users/me/spark/logs") 
    val sc = new SparkContext(conf) 
    val logData = sc.textFile(logFile, 2).cache() 
     val numAs = logData.filter(line => line.contains("a")).count() 
     val numBs = logData.filter(line => line.contains("b")).count() 
     println("Lines with a: %s, Lines with b: %s".format(numAs, numBs)) 
    }  
} 

は私のコマンドラインです:

spark-submit --driver-class-path C:\Users\me\IdeaProjects\untitled\out\artifacts\untitled_jar\untitled.jar --class mdr --master local[*] C:\Users\me\IdeaProjects\untitled\out\artifacts\untitled_jar\untitled.jar 

そして、ここでは私のエラーです:リック・モリッツへ

java.lang.ClassNotFoundException: mdr 
     at java.net.URLClassLoader.findClass(Unknown Source) 
     at java.lang.ClassLoader.loadClass(Unknown Source) 
     at java.lang.ClassLoader.loadClass(Unknown Source) 
     at java.lang.Class.forName0(Native Method) 
     at java.lang.Class.forName(Unknown Source) 
     at org.apache.spark.util.Utils$.classForName(Utils.scala:229) 
     at org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:700) 
     at org.apache.spark.deploy.SparkSubmit$.doRunMain$1(SparkSubmit.scala:187) 
     at org.apache.spark.deploy.SparkSubmit$.submit(SparkSubmit.scala:212) 
     at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:126) 
     at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala) 
+0

spark-submit --class your.class --master spark:// yourSparkMasterHostname:7077 /provide.jar –

+0

SparkMasterHostnameはどうですか? 編集:私はプロキシを持っていますので、私はそれについてはわかりません – Tiffany

+0

試しても動作しませんでした – Tiffany

答えて

関連する問題