2016-06-11 6 views
1

私はamazon EC2でspark clusterを開始しています。ウェブUIで、私は2つのインスタンス(1つのマスタとスレーブ1)ランニングを見ることができましたし、私はそれらのインスタンスへのSSHすることができています。私はポート7077の着信を開設しました。私は、以下のコマンドを使用してスパークシェルを起動しようとすると、私はエラーを取得しています。どんな助けもありがとう。spark ec2 Webサービスの起動エラー

spark-shell --master spark://ec2-54-173-210-192.compute-1.amazonaws.com:7077 

ログ:

java.io.IOException: Failed to connect to ec2-54-173-210-192.compute-1.amazonaws.com/54.173.210.192:7077 
at org.apache.spark.network.client.TransportClientFactory.createClient(TransportClientFactory.java:216) 
at org.apache.spark.network.client.TransportClientFactory.createClient(TransportClientFactory.java:167) 
at org.apache.spark.rpc.netty.NettyRpcEnv.createClient(NettyRpcEnv.scala:200) 
at org.apache.spark.rpc.netty.Outbox$$anon$1.call(Outbox.scala:187) 
at org.apache.spark.rpc.netty.Outbox$$anon$1.call(Outbox.scala:183) 
at java.util.concurrent.FutureTask.run(FutureTask.java:266) 
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142) 
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617) 
at java.lang.Thread.run(Thread.java:745) 
Caused by: java.net.ConnectException: Connection refused: ec2-54-173-210-192.compute-1.amazonaws.com/54.173.210.192:7077 
at sun.nio.ch.SocketChannelImpl.checkConnect(Native Method) 
at sun.nio.ch.SocketChannelImpl.finishConnect(SocketChannelImpl.java:717) 
at io.netty.channel.socket.nio.NioSocketChannel.doFinishConnect(NioSocketChannel.java:224) 
at io.netty.channel.nio.AbstractNioChannel$AbstractNioUnsafe.finishConnect(AbstractNioChannel.java:289) 
at io.netty.channel.nio.NioEventLoop.processSelectedKey(NioEventLoop.java:528) 
at io.netty.channel.nio.NioEventLoop.processSelectedKeysOptimized(NioEventLoop.java:468) 
at io.netty.channel.nio.NioEventLoop.processSelectedKeys(NioEventLoop.java:382) 
at io.netty.channel.nio.NioEventLoop.run(NioEventLoop.java:354) 
at io.netty.util.concurrent.SingleThreadEventExecutor$2.run(SingleThreadEventExecutor.java:111) 
... 1 more 
+1

私はあなたのポストからパブリックIPアドレスを削除することをお勧めします。ポートを正しく開いてもよろしいですか?どのIPにSparkマスタがバインドされていますか?内部(プライベート)または外部(パブリック)? –

答えて

1

が本当に問題ではなく、単に提案を解いていない:あなたがAmazonでスパーククラスタをしたい場合は、EC2の前にSpark on Amazon EMRを試してみてください。 EMRは、あなたがスパークプリインストールされたアプリケーションとして追加することができるために任意のサイズの管理クラスタを起動することができます。ホスト/ポートを自分で設定する必要はありません。

関連する問題