0
既に他のトピックをチェックしましたが、良い解決策が見つからなかったので、私はintelliJ Ideaで作業しています。ここでspark-submitを使用してjarを送信する際にClassNotFoundExceptionが発生しました
は私のコードです:ここで
import org.apache.spark.SparkContext
import org.apache.spark.SparkConf
object mdr {
def main(args: Array[String]) {
val logFile = "C:/Users/me/README.md"
val jarfile = "file:///C:/Users/me/IdeaProjects/untitled/out/artifacts/untitled_jar/untitled.jar"
val conf = new SparkConf().setAppName("Simple Application").setMaster("local[*]").setJars(Array(jarfile))
conf.set("spark.eventLog.enabled", "true")
conf.set("spark.eventLog.dir", "file:///C:/Users/me/spark/logs")
val sc = new SparkContext(conf)
val logData = sc.textFile(logFile, 2).cache()
val numAs = logData.filter(line => line.contains("a")).count()
val numBs = logData.filter(line => line.contains("b")).count()
println("Lines with a: %s, Lines with b: %s".format(numAs, numBs))
}
}
は私のコマンドラインです:
spark-submit --driver-class-path C:\Users\me\IdeaProjects\untitled\out\artifacts\untitled_jar\untitled.jar --class mdr --master local[*] C:\Users\me\IdeaProjects\untitled\out\artifacts\untitled_jar\untitled.jar
そして、ここでは私のエラーです:リック・モリッツへ
java.lang.ClassNotFoundException: mdr
at java.net.URLClassLoader.findClass(Unknown Source)
at java.lang.ClassLoader.loadClass(Unknown Source)
at java.lang.ClassLoader.loadClass(Unknown Source)
at java.lang.Class.forName0(Native Method)
at java.lang.Class.forName(Unknown Source)
at org.apache.spark.util.Utils$.classForName(Utils.scala:229)
at org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:700)
at org.apache.spark.deploy.SparkSubmit$.doRunMain$1(SparkSubmit.scala:187)
at org.apache.spark.deploy.SparkSubmit$.submit(SparkSubmit.scala:212)
at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:126)
at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)
spark-submit --class your.class --master spark:// yourSparkMasterHostname:7077 /provide.jar –
SparkMasterHostnameはどうですか? 編集:私はプロキシを持っていますので、私はそれについてはわかりません – Tiffany
試しても動作しませんでした – Tiffany