2016-05-02 4 views
0

Compute Engineで4つのインスタンスを使用すると、実行中の各スパークがCloudera Managerで設定されます。私はマスターを起動してローカルブラウザで接続するのに問題はなく、spark:// instance-1:7077として接続します。私は、ログに見てまで、私は、私はエラーを取得していない残りのインスタンスの開始スレーブを起動すると:Sparkでスレーブをマスターに接続できない

16/05/02 13:10:18 INFO worker.Worker: Started daemon with process name: [email protected] 
16/05/02 13:10:18 INFO worker.Worker: Registered signal handlers for [TERM, HUP, INT] 
16/05/02 13:10:18 INFO spark.SecurityManager: Changing view acls to: root 
16/05/02 13:10:18 INFO spark.SecurityManager: Changing modify acls to: root 
16/05/02 13:10:18 INFO spark.SecurityManager: SecurityManager: authentication disabled; ui acls disabled; users with view permissions: Set(root); users with mod$ 
16/05/02 13:10:19 INFO util.Utils: Successfully started service 'sparkWorker' on port 60270. 
16/05/02 13:10:19 INFO worker.Worker: Starting Spark worker 10.142.0.3:60270 with 2 cores, 6.3 GB RAM 
16/05/02 13:10:19 INFO worker.Worker: Running Spark version 1.6.0 
16/05/02 13:10:19 INFO worker.Worker: Spark home: /opt/cloudera/parcels/CDH-5.7.0-1.cdh5.7.0.p0.45/lib/spark 
16/05/02 13:10:19 ERROR worker.Worker: Failed to create work directory /opt/cloudera/parcels/CDH-5.7.0-1.cdh5.7.0.p0.45/lib/spark/work 

i「は仕事」を作成するには、mkdirを使用している場合、それはスローし、エラーやディレクトリが既に存在していると言います:

mkdir: cannot create directory ‘work’: File exists 

ファイルが存在し、ファイルを見つけるためにlsを使用すると、黒い背景で赤で強調表示されます。どんな助けもありがとう。

答えて

0

多分これが

$sudo chown -R your_userName:your_groupName /opt/cloudera/parcels/CDH-5.7.0-1.cdh5.7.0.p0.45/lib/spark 

今、すべてのスレーブがお互いへのSSHを持っている必要があります。また上記のパスのモード

$sudo chmod 777 /opt/cloudera/parcels/CDH-5.7.0-1.cdh5.7.0.p0.45/lib/spark 

を変更、これを試して、アクセス許可の問題ですお互いに話すことができます。

また、sparkのすべての設定ファイルをスレーブノードにコピーします。

関連する問題