2017-07-14 15 views
2

azure hdinsight spark2クラスタで次の構造のジョブをスケジュールしています。 私は、次のこれらの次のコマンドを使用してジョブ、エラーコード:JA018はHDInsight spark2クラスタのワークフローを実行します

oozie job -config /job.properties -run 
oozie job -config /coordinator.properties -run 

を予定ししかし、私は

Status: ERROR 
Error Code: JA018 
Error Message: Main class [org.apache.oozie.action.hadoop.ShellMain], exit code 

enter image description here

として、次のエラーを取得しています私のworkflow.xmlファイル:

<workflow-app name="sparkshellwf" xmlns="uri:oozie:workflow:0.3"> 
    <start to="sparkshellwf"/> 
    <action name="sparkshellwf"> 
    <shell xmlns="uri:oozie:shell-action:0.1"> 
     <job-tracker>${jobTracker}</job-tracker> 
     <name-node>${nameNode}</name-node> 
     <configuration> 
     <property> 
      <name>mapred.job.queue.name</name> 
      <value>${queueName}</value> 
     </property> 
     </configuration> 
     <exec>$SPARK_HOME/bin/spark-submit</exec> 
     <!--Adding all arguments needed/optional for Spark-submit here--> 
     <argument>--class</argument> 
     <argument>${Spark_Driver}</argument> 
     <argument>--master</argument> 
     <argument>${Spark_Master}</argument> 
     <argument>--deploy-mode</argument> 
     <argument>${Spark_Mode}</argument> 
     <argument>--num-executors</argument> 
     <argument>${numExecutors}</argument> 
     <argument>--driver-memory</argument> 
     <argument>${driverMemory}</argument> 
     <argument>--executor-memory</argument> 
     <argument>${executorMemory}</argument> 
     <argument>--executor-cores</argument> 
     <argument>${executorCores}</argument> 
     <argument>${workflowRoot}/lib/${sparkJar}</argument> 
    </shell> 
    <ok to="end"/> 
    <error to="fail"/> 
    </action> 
    <kill name="fail"> 
    <message>Job failed, error message[${wf:errorMessage(wf:lastErrorNode())}] </message> 
    </kill> 
    <end name="end"/> 
</workflow-app> 

しかし、Sparkジョブが正しく実行されているhout任意のエラー

私は鼻の反応を得るのは上記と同じです。

+0

Oozie氏によると、** Yarn **の最終ステータスはOKではありませんでした。最終的なクリーンアップでエラーが発生している可能性があります。 'Application _ ******* _ 0038'(外部IDとして表示されているものの、従来の' job'プレフィックスを 'application'に置き換えたもの)のYarnログを見てください –

答えて

0
JA018 Error is "output directory exists error" in workflow. 
you can add following code to delete output directory in workfolw.xml. 
<prepare> 
      <delete path="[PATH_of_output directory]"/> 
      ... 
      <mkdir path="[PATH]"/> 
      ... 
</prepare> 
you will get full log using following command 

    oozie job -oozie http://hostname:11000/oozie -log job_id 
    or 
    yarn logs -applicationId <application_ID> 
    You can refer link given below for different error codes 
    https://oozie.apache.org/docs/4.2.0/oozie-default.xml 
+0

あなたのサンプルworkflow.xml全体を派生させることができます – sathiyarajan

関連する問題