2017-01-13 1 views
0

私は、HDFS、YARN、ホスト上で動作しているスパークのようなサービスを持つアンバリを使用してハープ・クラスタをセットアップしています。 サンプルspark piをマスター・ヤーンとしてクラスタ・モードで実行すると、アプリケーションは正常に実行され、リソース・マネージャのログから同じものを見ることができます。 enter image description hereSpark History UIが動作しません。アンバリ| YARN

しかし、履歴リンクをクリックすると、スパーク履歴UIは表示されません。どのように有効にする/同じを表示するには?

答えて

0

最初に、spark.yarn.historyServer.addressのspark-defaults.confファイルで検索して、スパーク履歴サーバーが既に設定されているかどうかを確認します。

構成されていない場合は、このリンクは、サーバーの構成に役立つはずですが:すでに設定されている場合は履歴サーバホストがクラスタ内のすべてのノードからアクセス可能であり、また、ポートが開いている場合https://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.3.6/bk_installing_manually_book/content/ch19s04s01.html

、確認してください。

+0

spark-defauls.confを持つ2つのフォルダがあります: '/etc/spark/2.5.3.0-37/0/spark-defaults.conf'と '/usr/hdp/2.5.3.0-37/ etc/spark/conf/spark-defaults.conf ' どれが優先されますか? "spark.history.ui.port 18080 spark.yarn.historyServer.address​​を:18080" ながら、「含む '/etc/spark/2.5.3.0-37/0/spark-defaults.conf' /usr/hdp/2.5.3.0-37/etc/spark/conf/spark-defaults.conf 'にはコメントアウトされた設定が含まれています: "#spark.yarn.historyServer.address localhost:18080" コメントアウトされているようですか?デフォルトではこれらのプロパティは有効ですか? – taransaini43

+0

、履歴サーバーはすべてのホストからアクセス可能です... sshとtelnetで確認しました – taransaini43

+0

履歴サーバーが起動しています。その設定ファイルに 'spark.eventLog.dir'プロパティが設定されていますか? – code

関連する問題