2016-03-24 3 views
0

スパークジョブを実行しています。私は私の仕事はいつも失敗していることがわかりますし、履歴サーバに私は私が間違ってここに何が起こっているか見当がつかない....それも私のコードを入力していないため、エラーがスパークターゲットログファイルがすでに存在します

java.io.IOException: Target log file already exists (hdfs://nameservice1/user/spark/applicationHistory/application_1456200816465_392022) 
    at org.apache.spark.scheduler.EventLoggingListener.stop(EventLoggingListener.scala:201) 
    at org.apache.spark.SparkContext$$anonfun$stop$5.apply(SparkContext.scala:1394) 
    at org.apache.spark.SparkContext$$anonfun$stop$5.apply(SparkContext.scala:1394) 
    at scala.Option.foreach(Option.scala:236) 
    at org.apache.spark.SparkContext.stop(SparkContext.scala:1394) 
    at org.apache.spark.deploy.yarn.ApplicationMaster$$anon$3.run(ApplicationMaster.scala:107) 
    at org.apache.hadoop.util.ShutdownHookManager$1.run(ShutdownHookManager.java:54) 

これは非常に混乱してご覧ください。私はディレクトリを削除して再度実行しようとしました...しかし同じ問題です。

答えて

1

あなたはhttps://issues.apache.org/jira/browse/SPARK-4705に実行中ですが、しばらくの間修正されています。しかし、大きな問題の症状に過ぎません。アプリケーションはなんらかの理由で失敗します.YARNが再試行すると、そのエラーが発生します。

関連する問題