私は、HDFS、YARN、ホスト上で動作しているスパークのようなサービスを持つアンバリを使用してハープ・クラスタをセットアップしています。 サンプルspark piをマスター・ヤーンとしてクラスタ・モードで実行すると、アプリケーションは正常に実行され、リソース・マネージャのログから同じものを見ることができます。 Spark History UIが動作しません。アンバリ| YARN
しかし、履歴リンクをクリックすると、スパーク履歴UIは表示されません。どのように有効にする/同じを表示するには?
私は、HDFS、YARN、ホスト上で動作しているスパークのようなサービスを持つアンバリを使用してハープ・クラスタをセットアップしています。 サンプルspark piをマスター・ヤーンとしてクラスタ・モードで実行すると、アプリケーションは正常に実行され、リソース・マネージャのログから同じものを見ることができます。 Spark History UIが動作しません。アンバリ| YARN
しかし、履歴リンクをクリックすると、スパーク履歴UIは表示されません。どのように有効にする/同じを表示するには?
最初に、spark.yarn.historyServer.address
をのspark-defaults.confファイルで検索して、スパーク履歴サーバーが既に設定されているかどうかを確認します。
構成されていない場合は、このリンクは、サーバーの構成に役立つはずですが:すでに設定されている場合は履歴サーバホストがクラスタ内のすべてのノードからアクセス可能であり、また、ポートが開いている場合https://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.3.6/bk_installing_manually_book/content/ch19s04s01.html
、確認してください。
spark-defauls.confを持つ2つのフォルダがあります: '/etc/spark/2.5.3.0-37/0/spark-defaults.conf'と '/usr/hdp/2.5.3.0-37/ etc/spark/conf/spark-defaults.conf ' どれが優先されますか? "spark.history.ui.port 18080 spark.yarn.historyServer.addressを:18080" ながら、「含む '/etc/spark/2.5.3.0-37/0/spark-defaults.conf' /usr/hdp/2.5.3.0-37/etc/spark/conf/spark-defaults.conf 'にはコメントアウトされた設定が含まれています: "#spark.yarn.historyServer.address localhost:18080" コメントアウトされているようですか?デフォルトではこれらのプロパティは有効ですか? – taransaini43
、履歴サーバーはすべてのホストからアクセス可能です... sshとtelnetで確認しました – taransaini43
履歴サーバーが起動しています。その設定ファイルに 'spark.eventLog.dir'プロパティが設定されていますか? – code