2017-04-15 2 views
0

誰かがとても親切で、私のローカルスパーク「クラスタ」に対して働くように、次のコードでhdfs URIをどのように適応させるか教えてください。ローカルスパーククラスタのsparkcontext

var lines = sparkContext.TextFile(@"hdfs://path/to/input.txt"); 
// some more code 
wordCounts.SaveAsTextFile(@"hdfs://path/to/wordcount.txt"); 
+0

スパークローカルモードにはクラスタは含まれません。 MobiusベースのSparkアプリケーションを実行しようとしているマシンでクラスタ(スタンドアロン、YARNまたはMesos)を実行していますか? – skaarthik

+0

もちろんありません。だから、私は逆さのカンマを使ったのです。私は、将来私がそれを展開する前に、私の地元の火花に対してVisual Studioでコンソールアプリケーションを開発したいだけです。はい、私はMobiusベースのSparkアプリケーションを実行しようとしています – cs0815

答えて

1

あなただけのパスの場所の設定パラメータはこれだけ以下のようにHDFSを追加する必要が糸モードで

var lines = sparkContext.TextFile("/path/to/input.txt"); 
// some more code 
wordCounts.SaveAsTextFile("/path/to/wordcount.txt"); 

かを、アプリケーションを実行するために細かいべきではないsparkcontextの設定を取得します定義することができ、明示的にあなたも任意であるパー​​ティションの数を定義することができるよう

val lines = sparkContext.textFile("hdfs://namenode:port/path/to/input.txt") 

下にHDFSの場所を定義

var lines = sparkContext.TextFile("/path/to/input.txt",[number of partitions]); 
+0

ありがとうございます。 (1)SparkContextをローカルスパークに対して実行するようにパラメータを設定するにはどうすればよいですか? (2)私のファイルがc:\ war_and_peace.txtの場合、コードは何でしょうか? – cs0815

関連する問題