0
Compute Engineで4つのインスタンスを使用すると、実行中の各スパークがCloudera Managerで設定されます。私はマスターを起動してローカルブラウザで接続するのに問題はなく、spark:// instance-1:7077として接続します。私は、ログに見てまで、私は、私はエラーを取得していない残りのインスタンスの開始スレーブを起動すると:Sparkでスレーブをマスターに接続できない
16/05/02 13:10:18 INFO worker.Worker: Started daemon with process name: [email protected]
16/05/02 13:10:18 INFO worker.Worker: Registered signal handlers for [TERM, HUP, INT]
16/05/02 13:10:18 INFO spark.SecurityManager: Changing view acls to: root
16/05/02 13:10:18 INFO spark.SecurityManager: Changing modify acls to: root
16/05/02 13:10:18 INFO spark.SecurityManager: SecurityManager: authentication disabled; ui acls disabled; users with view permissions: Set(root); users with mod$
16/05/02 13:10:19 INFO util.Utils: Successfully started service 'sparkWorker' on port 60270.
16/05/02 13:10:19 INFO worker.Worker: Starting Spark worker 10.142.0.3:60270 with 2 cores, 6.3 GB RAM
16/05/02 13:10:19 INFO worker.Worker: Running Spark version 1.6.0
16/05/02 13:10:19 INFO worker.Worker: Spark home: /opt/cloudera/parcels/CDH-5.7.0-1.cdh5.7.0.p0.45/lib/spark
16/05/02 13:10:19 ERROR worker.Worker: Failed to create work directory /opt/cloudera/parcels/CDH-5.7.0-1.cdh5.7.0.p0.45/lib/spark/work
i「は仕事」を作成するには、mkdirを使用している場合、それはスローし、エラーやディレクトリが既に存在していると言います:
mkdir: cannot create directory ‘work’: File exists
ファイルが存在し、ファイルを見つけるためにlsを使用すると、黒い背景で赤で強調表示されます。どんな助けもありがとう。