2016-08-01 9 views
1

スパークエンジンとしてハイブクエリを実行中にエラーが発生しました。スパークのハイブが動作していません - スパーククライアントの作成に失敗しました

Error: 
    Failed to execute spark task, with exception org.apache.hadoop.hive.ql.metadata.HiveException(Failed to create spark client.)' 
    FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.spark.SparkTask 

Hive Console: 
    hive> set hive.execution.engine=spark; 
    hive> set spark.master=spark://INBBRDSSVM15.example.com:7077; 
    hive> set spark.executor.memory=2g; 

    Hadoop - 2.7.0 
    Hive - 1.2.1 
    Spark - 1.6.1 
+0

いいえ、私はyet..still問題に取り組んでいない2workerノードとノード1master –

+0

を有していないのです –

答えて

2

YARNコンテナメモリには、Sparkキュータ 要件よりも小さかったです。私はYARNコンテナのメモリを設定し、最大値は でSpark Executor Memory + Overheadよりも大きい値に設定しました。 「yarn.scheduler.maximum-allocation-mb」および/または 「yarn.nodemanager.resource.memory-mb」を確認してください。

Please see Source here

関連する問題