2016-11-10 10 views
0

enter image description here私は自分のローカルコンピュータ.Thisで火花スタンドアロンクラスタモードを実行しています私のコンピュータスパーク・スタンドアロン・クラスタ・モードでスパークを実行するために必要なハードウェアの最小インパクトは何ですか?

インテルプロセッサーのコアi5の
番号についてのハードウェア情報です:コアの1 総数:2
メモリ:4ギガバイト

私はスパークスタンドアロンクラスター上のEclipseからスパークプログラムを実行しようとしています。これは私のコードの一部です。

String logFile = "/Users/BigDinosaur/Downloads/spark-2.0.1-bin-hadoop2.7 2/README.md"; // 
SparkConf conf = new SparkConf().setAppName("Simple Application").setMaster("spark://BigDinosaur.local:7077")); 

日食でプログラムを実行した後、私は最初の仕事は、すべてのリソースを受け入れていない

警告メッセージ次取得しています。労働者が登録されていることを確認し、これは、それがハードウェアリソースのミスマッチのように思える同様の問題に答えて、他の人を通過した後のWeb UI

の私のスクリーンショットで十分なリソース

を持っているあなたのクラスタUIをチェックすることは根本的な原因であります。

私はそれにアプリケーションを実行するためのスパークスタンドアロンクラスタに必要な最小ハードウェアinsfractureは何

に関する詳細な情報を入手したいですか?

+0

設定ファイルに何か設定しましたか?私は、1GBのRAMとIntel Atomを搭載したNetbook Asus 1011pxで簡単なSparkジョブを実行できます。 –

+0

そして、あなたは少なくとも1人のワーカーを、sbinフォルダの下にあるスケッチの1つを使って始めましたか? –

+0

実際にリソースによって制限されている場合は、Databricks Community Editionを試すことができます。 –

答えて

0

私が知っている通りです。 Sparkは、ジョブが開始されたときに使用可能なメモリからメモリを割り当てます。

ジョブを開始するときにコアとエグゼキュータのメモリを明示的に指定してみてください。

0

私は、コマンドに ./start-slave.shスパーク以下を実行した後にそれが実行を開始:// localhostを:7077 --cores 1つの--memory 1グラム

を私はコア1とメモリ1グラム

のために与えました
関連する問題