私はhbaseテーブル(MAP_INPUT_RECORDS = 30)から30行を処理している1つのマップ削減ジョブを実行しています。このテーブルは11000の領域を持っていますが、いつでも1つのレコードは、分割ポリシー(つまり、単一のレコードは2つ以上の地域にはありません)。ここでは、ログにマッパー65の数が増えています(TOTAL_LAUNCHED_MAPS = 65)。 hbaseドキュメントごとに、各領域に対して1つのマッパーが割り当てられます。しかし、私の場合、マッパーの数は地域以上です。いくつかの解決策を提案する。前もって感謝します。hbaseのMapreduce
0
A
答えて
0
11000個の領域(テーブル領域)がありますので、最大で11000個のマッパーを持つことができます。
テーブル領域をHbaseの領域サーバと混同していますか。 Hbaseは10のリージョンサーバーを持つことができ、hbaseでホストされるテーブルは1000のリージョンを持つことができます。各地域サーバーは100の地域をホストしています。
TableInputFormatは、Hbase Region Serverではなく、テーブルの領域に基づいてマッパーを生成します。
http://bytepadding.com/big-data/hbase/hbase-parameter-tuning/
関連する問題
- 1. Hbase mapreduceエラー
- 2. mapreduce、hbase and scan
- 3. mapreduceジョブ内のランダムアクセスhbaseテーブル
- 4. HBaseからのHadoop mapreduceストリーミング
- 5. アクセスhbaseテーブルfron hadoop mapreduce
- 6. java.lang.NoClassDefFoundErrorが:ORG/apacheの/ Hadoopの/ HBaseの/ MapReduceの/ MultiTableInputFormat
- 7. のHBaseのMapReduceジョブを実行すると、HBaseConfigurationのNoClassDefFoundError例外
- 8. のHBaseがMapReduceのためのシンクとして:org.apache.hadoop.hbase.client.RetriesExhaustedException
- 9. HBaseテーブルのプレーンJavaプログラムとMapReduce javaプログラムの違い
- 10. .NETでのThriftを使用したHbaseのMapReduce?
- 11. MapReduceでHDFSの代わりにHBaseを使用
- 12. MapReduceとHBaseシェルフィルタを使用する理由
- 13. SystemからHbase MapReduceにテキストファイルを読み込み
- 14. なぜHBaseにバックアップされたHiveテーブルがMapReduceを使用する
- 15. 適切なhbase-site.xmlを探すHBaseクライアントのhbase-default.xml設定例
- 16. HBaseはどのようにしてMapReduceの新しいリージョンをクラスタ全体に配布しますか?
- 17. HBase MapReduceをCDH3に書き込む最も簡単なJava以外の方法は?
- 18. データをHBase/HDFSに同期させ、MapReduceジョブへの入力として使用します
- 19. HbaseエクスポートテーブルでMapReduceを実行しています。値クラスのデシリアライザが見つかりませんでした: 'org.apache.hadoop.hbase.client.Result
- 20. MapReduceシャッフルフェーズのボトルネック
- 21. mongodbのMapreduce
- 22. MapReduceの問題
- 23. MapReduceのBloomフィルタ
- 24. シャッフルとMapReduceの
- 25. のMapReduce質問
- 26. MapReduceのJavaヒープスペース
- 27. JSON MapReduceのエラー
- 28. AWSのMapReduce
- 29. MapReduceのソート
- 30. EMR - MapReduceのメモリエラー