0
amazon Webサービスに1つのマスターと2つのスレーブを持つEMRクラスターをセットアップしました。 start-all.shコマンドを使ってクラスタ上のノードを起動する必要があるかどうかわかりません。または、どのようにしてEMRクラスタノードを起動できますか?amazonでemr clusterを起動する方法は?
amazon Webサービスに1つのマスターと2つのスレーブを持つEMRクラスターをセットアップしました。 start-all.shコマンドを使ってクラスタ上のノードを起動する必要があるかどうかわかりません。または、どのようにしてEMRクラスタノードを起動できますか?amazonでemr clusterを起動する方法は?
AWSコンソールまたはAWS CLIを使用してEMRクラスタを作成できます。
aws emr create-cluster \
--name "1-node dummy cluster" \
--instance-type m3.xlarge \
--release-label emr-4.1.0 \
--instance-count 1 \
--use-default-roles \
--applications Name=Spark \
--auto-terminate
start-all.shを使用してサービスを開始する必要はありません。デフォルトでは、すべてのサービスが自動的に開始されます。余分なサービスを含める場合は、ブートストラップを使用してこれらのサービスを追加できます。
私はすでにクラスタを作成しています。 jpsコマンドを実行すると、 "jps、main、StatePusher、MetricsServer"が表示されます。私はWeb UIからResourceManagerまたはMasterNodeに接続できないので、ノードが正常に動作しているかどうかわかりません。 – nisanur
「MasterNode」とはどういう意味ですか? Spark Master UIを意味する場合、SparkはYARN上で動作するように設定されているため、EMRでSparkで使用されるものではありません。 Spark Masterは、現在EMRでサポートされていないSpark Standaloneモード専用です。 –
あなたの答えに感謝します。私は私の問題を解決しました。ノードがクラスタの「監視」部分で動作しているのがわかります。私は、Hadoopのようなノードを起動するコマンドがあると思っていました。しかし、ノードを起動するコマンドは必要ありません。 – nisanur