2017-08-13 11 views
0

Spark ClusterにhiveContextを含むコードを配備しようとしています。IDEで書き込まれたhiveContextをspark-submitする方法

./spark-submit --class com.dt.sparkSQL.DataFrameToHive --master spark://SparkMaster:7077 /root/Documents/DataFrameToHive.jar しかし、ここでは、問題私はSparkMasterに接続することができます

./spark-shell --master spark://SparkMaster:7077 

火花シェルをした

17/08/13 10:29:46 INFO hive.metastore: Trying to connect to metastore with URI thrift://SparkMaster:9083 
17/08/13 10:29:46 WARN hive.metastore: Failed to connect to the MetaStore Server... 
17/08/13 10:29:46 INFO hive.metastore: Waiting 1 seconds before next connection attempt. 
Exception in thread "main" java.lang.RuntimeException: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient 

です:9083 successfully.Hereは私のスパーク/ confに/ hive-ですsite.xml

<configuration> 
<property> 
        <name>hive.metastore.uris</name> 
        <value>thrift://SparkMaster:9083</value> 
        <description>thrift URI for the remote metastore.Used by metastore client to connect to remote metastore. </description> 
</property> 
</configuration> 

私の質問は、 i SparkMaster:9083私はspark-submitを行い、SparkMaster:9083の問題は何ですか? IDE上のコードは次のとおりです

答えて

0

私はこの質問をうまく解決しました。hiveContextを展開すると、通常のJARとは種類が異なります。

./spark-submit --class com.dt.sparkSQL.DataFrameToHive --files /usr/local/hive/apache-hive-1.2.1-bin/conf/hive-site.xml --master spark://SparkMaster:7077 /root/Documents/DataFrameToHive.jar 
関連する問題