mapreduce.job.reduces = -1の目的を理解する必要があります。属性mapreduce.job.reducesがファイル出力を設定された値に減らしていることを理解していますが、-1は何を意味しますか? Hive's documentationを引用誰でもmapreduce.job.reduces = -1の意味を説明してください。
2
A
答えて
1
:
mapred.reduce.tasks < - (糸でそれがmapreduce.job.reducesある)
デフォルト値:-1
追加された場合:ハイブ0.1.0ジョブごとの削減タスクのデフォルト数。通常、使用可能なホストの数に近いプライムに設定されます。 mapred.job.trackerが "local"のときは無視されます。 Hadoopはこれをデフォルトで1に設定し、Hiveはデフォルト値として-1を使用します。このプロパティを-1に設定すると、Hiveは自動的に減速機の数を決定します。
レデューサーの数を設定することは、出力ファイルの数を設定することよりもはるかに重要です。それは何らかの形で並列性のレベル、すなわち、いくつのタスクを並列に実行するかを定義する。 1削減タスクを使用する場合、並列処理は行われません。 2つの削減タスクが使用されている場合は、、理想的にはとすると、各削減タスクの作業負荷(および実行時間)を半減する必要があります。同じことがマッパーの数にも当てはまりますが、これは設定が難しくなります。
関連する問題
- 1. このVBコードの意味を説明してください
- 2. 誰でもこの意味を説明できます
- 3. 反応jsのコードスニペットの意味を説明してください
- 4. 誰でもDijkstraアルゴリズムのこのコード部分を説明してください。
- 5. 私のために{}構文の意味を説明してください
- 6. ルビ1.8.7のUnicodeエンコーディングでエスケープされた数字が意味するものを説明してください。
- 7. pysnmpの "errorStatus.prettyPrint()"の意味は誰でも説明できますか?
- 8. parentNodeを説明してください
- 9. 最後の行の「m 1」を説明してください。
- 10. Pythonコード:説明してください
- 11. C#のプロパティのしくみを説明してください。
- 12. C++ LOBYTE。もっと説明してください。
- 13. 誰かが私にこのCSSコードを説明してください。
- 14. アクションmustUnderstandヘッダーの誰かがそれを説明してください
- 15. 誰かがこの交差テスト関数を説明してください
- 16. 明確な例でAngularJS $ injectorを説明してください
- 17. 誰かがこのSystem.ArgumentExceptionエラーの意味を説明できますか?
- 18. 次のコードを詳しく説明してください
- 19. スケーラでAbstractfunction1の使い方を説明してください
- 20. このスクリプトの段階を説明してください
- 21. この短いSQLクエリを説明してください
- 22. regsubの呼び出しを説明してください
- 23. 誰でもPHPの意味を教えていただけますか?
- 24. このプログラムを説明してください?
- 25. Wordpressでのカテゴリの説明を参照してください。
- 26. NEST APIの引数定義を説明してください
- 27. VBAボタンのIEの説明を押してください
- 28. PHPの出力を説明してください
- 29. このプログラムでは、出力を説明してください
- 30. このSyncsortコードは何を説明してくださいか?