2016-03-26 8 views
0

私は、次のようなHadoopのジョブを実行したのHadoopジョブを実行している問題でローカル

HadoopのジャーVoteCount.jar /ユーザー/喜び/ DISTRICT1 /ユーザー/喜び/ Result_District1

16/03/26 16:18:29 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 
16/03/26 16:18:30 INFO Configuration.deprecation: session.id is deprecated. Instead, use dfs.metrics.session-id 
16/03/26 16:18:30 INFO jvm.JvmMetrics: Initializing JVM Metrics with processName=JobTracker, sessionId= 
16/03/26 16:18:30 WARN mapreduce.JobResourceUploader: Hadoop command-line option parsing not performed. Implement the Tool interface and execute your application with ToolRunner to remedy this. 
16/03/26 16:18:30 INFO input.FileInputFormat: Total input paths to process : 10 
16/03/26 16:18:30 INFO mapreduce.JobSubmitter: number of splits:10 
16/03/26 16:18:30 INFO mapreduce.JobSubmitter: Submitting tokens for job: job_local911715097_0001 
16/03/26 16:18:30 INFO mapreduce.Job: The url to track the job: http://localhost:8080/ 
16/03/26 16:18:30 INFO mapred.LocalJobRunner: OutputCommitter set in config null 
16/03/26 16:18:30 INFO output.FileOutputCommitter: File Output Committer Algorithm version is 1 
16/03/26 16:18:30 INFO mapred.LocalJobRunner: OutputCommitter is org.apache.hadoop.mapreduce.lib.output.FileOutputCommitter 
16/03/26 16:18:30 INFO mapred.LocalJobRunner: Waiting for map tasks 
16/03/26 16:18:30 INFO mapred.LocalJobRunner: Starting task: attempt_local911715097_0001_m_000000_0 
16/03/26 16:18:30 INFO output.FileOutputCommitter: File Output Committer Algorithm version is 1 
16/03/26 16:18:30 INFO util.ProcfsBasedProcessTree: ProcfsBasedProcessTree currently is supported only on Linux. 
16/03/26 16:18:30 INFO mapred.Task: Using ResourceCalculatorProcessTree : null 
16/03/26 16:18:30 INFO mapred.MapTask: Processing split: hdfs://localhost:9000/user/joy/District1/booth-1.txt:0+70 
16/03/26 16:18:30 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584) 
16/03/26 16:18:30 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100 
16/03/26 16:18:30 INFO mapred.MapTask: soft limit at 83886080 
16/03/26 16:18:30 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600 
16/03/26 16:18:30 INFO mapred.MapTask: kvstart = 26214396; length = 6553600 
16/03/26 16:18:30 INFO mapred.MapTask: Map output collector class = org.apache.hadoop.mapred.MapTask$MapOutputBuffer 
16/03/26 16:18:30 INFO mapred.LocalJobRunner: 
16/03/26 16:18:30 INFO mapred.MapTask: Starting flush of map output 
16/03/26 16:18:30 INFO mapred.MapTask: Spilling map output 
16/03/26 16:18:30 INFO mapred.MapTask: bufstart = 0; bufend = 110; bufvoid = 104857600 
16/03/26 16:18:30 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214360(104857440); length = 37/6553600 

しかし、私は閲覧することができません

hadoop fs -ls /user/joy/Result_District1 

それを私は:仕事は、私のブラウザでhttp://localhost:8080/を入力中に、接続が拒否してくると出力フォルダは、コマンドを以下により作成されたかどうかを確認しながら続けます1つの一時的なフォルダが生成されているため、part-XXXXXファイルは生成されていません。

次のように私のHadoopの構成は次のとおり

など/ Hadoopの/ HDFS-site.xmlの

<configuration> 
<property> 
    <name>dfs.replication</name> 
    <value>1</value> 
</property> 

など/ Hadoopの/コア-site.xmlの

configuration> 
<property> 
    <name>fs.defaultFS</name> 
    <value>hdfs://localhost:9000</value> 
</property> 
</configuration> 

答えて

0

http://localhost:50070/を試してHDFSにアクセスしてください。

あなたの仕事は正しく実行されていないようです。ログ全体を貼り付けることはできますか?

0

最初にあなたの仕事が成功したかどうかを確認するには、 http://localhost:50070/にアクセスしてください。あなたがhadoopでジョブを実行したときに言及した宛先フォルダに移動します。そのフォルダにこのファイルがない場合は、ジョブが失敗したことを意味する "_SUCCESS"というファイル名が必要です。

localhost:8080は名前ノードに属していますので、Hadoop 2.xより古いバージョンを使用している場合は、このような問題に直面する可能性があります。 あなたの仕事の状態を50070から確認する方が良いでしょう。

希望しています。そうでない場合は、詳細なログを共有して、より具体的にすることができます。

関連する問題