2
azure hdinsight spark2クラスタで次の構造のジョブをスケジュールしています。 私は、次のこれらの次のコマンドを使用してジョブ、エラーコード:JA018はHDInsight spark2クラスタのワークフローを実行します
oozie job -config /job.properties -run
oozie job -config /coordinator.properties -run
を予定ししかし、私は
Status: ERROR
Error Code: JA018
Error Message: Main class [org.apache.oozie.action.hadoop.ShellMain], exit code
として、次のエラーを取得しています私のworkflow.xmlファイル:
<workflow-app name="sparkshellwf" xmlns="uri:oozie:workflow:0.3">
<start to="sparkshellwf"/>
<action name="sparkshellwf">
<shell xmlns="uri:oozie:shell-action:0.1">
<job-tracker>${jobTracker}</job-tracker>
<name-node>${nameNode}</name-node>
<configuration>
<property>
<name>mapred.job.queue.name</name>
<value>${queueName}</value>
</property>
</configuration>
<exec>$SPARK_HOME/bin/spark-submit</exec>
<!--Adding all arguments needed/optional for Spark-submit here-->
<argument>--class</argument>
<argument>${Spark_Driver}</argument>
<argument>--master</argument>
<argument>${Spark_Master}</argument>
<argument>--deploy-mode</argument>
<argument>${Spark_Mode}</argument>
<argument>--num-executors</argument>
<argument>${numExecutors}</argument>
<argument>--driver-memory</argument>
<argument>${driverMemory}</argument>
<argument>--executor-memory</argument>
<argument>${executorMemory}</argument>
<argument>--executor-cores</argument>
<argument>${executorCores}</argument>
<argument>${workflowRoot}/lib/${sparkJar}</argument>
</shell>
<ok to="end"/>
<error to="fail"/>
</action>
<kill name="fail">
<message>Job failed, error message[${wf:errorMessage(wf:lastErrorNode())}] </message>
</kill>
<end name="end"/>
</workflow-app>
しかし、Sparkジョブが正しく実行されているhout任意のエラー
私は鼻の反応を得るのは上記と同じです。
Oozie氏によると、** Yarn **の最終ステータスはOKではありませんでした。最終的なクリーンアップでエラーが発生している可能性があります。 'Application _ ******* _ 0038'(外部IDとして表示されているものの、従来の' job'プレフィックスを 'application'に置き換えたもの)のYarnログを見てください –