2012-04-13 3 views
1
public int run(String[] args) throws Exception { 

    /*****************Job for id-title mapping*******************/  

    JobConf conf_idTitle = new JobConf(PageRank.class); 
    conf_idTitle.setJobName("first_idTitleMapping"); 

    ... 

    FileInputFormat.setInputPaths(conf_idTitle, new Path(args[0])); 
    FileOutputFormat.setOutputPath(conf_idTitle, new Path(pathforIdTitle)); 

    JobClient.runJob(conf_idTitle); 

    /*****************Job for linkgraph mapping*******************/ 

    JobConf conf_linkgraph = new JobConf(PageRank.class); 

    conf_linkgraph.setJobName("second_linkgraphBuilding"); 

    ... 

    FileInputFormat.setInputPaths(conf_linkgraph, new Path(args[0])); 
    FileOutputFormat.setOutputPath(conf_linkgraph, new Path(pathforLinkgraph)); 

    JobClient.runJob(conf_linkgraph); 

    return 0; 
} 

public static void main(String[] args) throws Exception { 
    int res = ToolRunner.run(new Configuration(), new PageRank(), args); 
    System.exit(res); 
} 

このコードは、parellelではなく、Map/reduceプログラムで2つのジョブを連続して実行するためのコードです。 私はジョブごとに異なるマッパーとレデューサーを使用するので、2つのJobConfオブジェクトを定義しました。最初のジョブの出力を2番目のジョブの入力として使用する必要があるため、2番目のJobConfオブジェクトは 'JobClient.runJob(conf_idTitle);'の後に定義しました。このエラーが現れたのはなぜMap/Reduceプログラムで複数のジョブを実行する

java.lang.RuntimeException: Error in configuring object 
at org.apache.hadoop.util.ReflectionUtils.setJobConf(ReflectionUtils.java:93) 
at org.apache.hadoop.util.ReflectionUtils.setConf(ReflectionUtils.java:64) 
at org.apache.hadoop.util.ReflectionUtils.newInstance(ReflectionUtils.java:117) 
at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:387) 
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:325) 
at org.apache.hadoop.mapred.Child$4.run(Child.java:270) 
at java.security.AccessController.doPrivileged(Native Method) 
at javax.security.auth.Subject.doAs(Subject.java:396) 
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1157) 
at org.apache.hadoop.mapred.Child.main(Child.java:264) 
    Caused by: java.lang.reflect.InvocationTargetException 
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39) 
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.jav 

しかし、私は以下のような例外が発生しましたか?前もって感謝します。

答えて

1

公共JobConf(構成confに)

アプリケーションはすでにJobConf オブジェクトを構築し、別のジョブで使用するコピーを望んでいるときに、このコンストラクタは、一般的に使用されます。 conf内のコンフィグレーションは、新しいJobConfオブジェクトにコピーされます。

関連する問題