2016-12-16 5 views
0

スタンドアロンクラスタでアプリケーションをテストしようとしています。ここに私のシナリオがあります。 ノードAでスパークマスターを開始し、同じノードAで1人のワーカーを起動しました。java.lang.RuntimeException:ストリーム '/ jars/<custom-jar>'がスパークスタンドアロンモードで見つかりません

ノードBからアプリケーションを実行しようとしています(これはドライバーとして機能すると思います)。私は、アプリケーションを起動すると、私は瓶それができると

16/12を言って、次の情報を参照してください、私は(「jar1」、「jar2」)setJarsを使用してsparkconfに

をjarを追加した

/16 7時45分56秒INFO SparkContext:スパークで添加したJAR jar1.jar://ノードB:48151 /瓶/ jar1.jarタイムスタンプ1481899556375

16/12/16 7時45分。 56 INFO SparkContext:spark:// nodeb:48151/jars/jar2.jarにJAR jar2.jarを追加し、タイムスタンプ14818995 56376

しかし、私はネッティー中にノードAから次の例外が(と思う)それはどこかHDFSに配置する必要がありますあなたのjarファイルが

に位置している

16/12/16 07:46:00 WARN TaskSetManager: Lost task 0.0 in stage 0.0 (TID 0, nodeA): java.lang.RuntimeException: Stream '/jars/node2.jar' was not found 

at org.apache.spark.network.client.TransportResponseHandler.handle(TransportResponseHandler.java:222) 

at org.apache.spark.network.server.TransportChannelHandler.channelRead0(TransportChannelHandler.java:121) 

at org.apache.spark.network.server.TransportChannelHandler.channelRead0(TransportChannelHandler.java:51) 

at io.netty.channel.SimpleChannelInboundHandler.channelRead(SimpleChannelInboundHandler.java:105) 

at io.netty.channel.AbstractChannelHandlerContext.invokeChannelRead(AbstractChannelHandlerContext.java:308) 

at io.netty.channel.AbstractChannelHandlerContext.fireChannelRead(AbstractChannelHandlerContext.java:294) 

at io.netty.handler.timeout.IdleStateHandler.channelRead(IdleStateHandler.java:266) 

at io.netty.channel.AbstractChannelHandlerContext.invokeChannelRead(AbstractChannelHandlerContext.java:308) 

at io.netty.channel.AbstractChannelHandlerContext.fireChannelRead(AbstractChannelHandlerContext.java:294) 

at io.netty.handler.codec.MessageToMessageDecoder.channelRead(MessageToMessageDecoder.java:103) 

at io.netty.channel.AbstractChannelHandlerContext.invokeChannelRead(AbstractChannelHandlerContext.java:308) 

at io.netty.channel.AbstractChannelHandlerContext.fireChannelRead(AbstractChannelHandlerContext.java:294) 

at org.apache.spark.network.util.TransportFrameDecoder.channelRead(TransportFrameDecoder.java:85) 

at io.netty.channel.AbstractChannelHandlerContext.invokeChannelRead(AbstractChannelHandlerContext.java:308) 

at io.netty.channel.AbstractChannelHandlerContext.fireChannelRead(AbstractChannelHandlerContext.java:294) 

at io.netty.channel.DefaultChannelPipeline.fireChannelRead(DefaultChannelPipeline.java:846) 

at io.netty.channel.nio.AbstractNioByteChannel$NioByteUnsafe.read(AbstractNioByteChannel.java:131) 

at io.netty.channel.nio.NioEventLoop.processSelectedKey(NioEventLoop.java:511) 

at io.netty.channel.nio.NioEventLoop.processSelectedKeysOptimized(NioEventLoop.java:468) 

at io.netty.channel.nio.NioEventLoop.processSelectedKeys(NioEventLoop.java:382) 

at io.netty.channel.nio.NioEventLoop.run(NioEventLoop.java:354) 


at io.netty.util.concurrent.SingleThreadEven 
+0

私は同じ問題があります。この問題は運がいい? –

答えて

0

チェックをフェッチします。私の場合、私はちょうど/tmp/hive/の下に入れて、それをsetJars(List("/tmp/hive/myJar"))として参照し、すべてが魅力のように働いた

関連する問題