これは簡単なことかもしれませんが、私は答えを見つけるのに苦労しています。データがHDFSにロードされると、そのデータは複数のノードに分散されてロードされます。データは分割され、配布されます。
HIVEには、データをPARTITIONするオプションがあります。 PARTITIONオプションについて言及しなくても、ハイブテーブルをロードするときに、クラスタ上の別のノードにデータが分割されて分散されることは間違いありません。この場合、このコマンドにはどんな利点がありますか。HDFSとHIVEのパーティション分割
0
A
答えて
-2
HDFSパーティション:主にノード上のファイルのストレージを扱います。フォールトトレランスのために、ファイルはクラスタ全体にレプリケートされます(レプリケーションファクタの使用)
ハイブパーティション:ハイブの最適化手法です。 ハイブDBの内部では、テーブルを格納している間、クエリのパフォーマンスを向上させるために、パーティション分割を行います。 パーティショニングは、データがハイブに格納される方法とデータを読み取る方法に関する情報を提供します。 ハイブパーティション化は、テーブルデータの列レベルで制御できます。
関連する問題
- 1. Oracleでのパーティション分割とパーティション分割の方法
- 2. SPARK RDDパーティションを1つのHDFSに分割
- 3. 複数のRDDとパーティションの分割?
- 4. tomcatのwebappパーティション分割
- 5. HIVE分割文字列
- 6. Hadoop Mapreduce HDFSブロック分割
- 7. スパークデータフレームをHiveパーティションにロード
- 8. スパーク:パーティション分割の理解 - コア
- 9. Hive - ファイル間でデータを分割する
- 10. Hadoop/HDFSファイル分割について
- 11. パーティション分割されたデータを再パーティション化する
- 12. パーティションバイナリを使用したパーティション分割データ
- 13. Haskellでパーティションを分割する
- 14. セグメンテーション、ページング、パーティション分割の比較 - メモリ管理とスワッピングプロセス
- 15. Oracleパフォーマンス:パーティション分割と挿入の挿入
- 16. スパークパーティション:Hiveパーティションは作成せずにRDDパーティションを作成する
- 17. SQLサーバデータベースをHDFSまたはHIVEにインポート
- 18. hdfsでhiveを使用するには?
- 19. Apache Helixはパーティション分割とマージをサポートしていますか?
- 20. 動的パーティション分割はすべてのパーティションを更新しますか?
- 21. パーティションにローカルのセカンダリインデックスがある場合、パーティション分割が行われますか?
- 22. Spark Hive Context - パーティションと大文字のフィールド名を持つAvroテーブル
- 23. 1つのパーティション内に1つの値を持ち、残りのパーティションを別のパーティションに分割する
- 24. ユーザーALTER TABLE ... Hiveで部分的に一致するパーティションで連結する
- 25. GemFireリージョン:パーティションと分散リージョン
- 26. icCubeのパーティション分割のためのマニュアルの
- 27. インスタンスタイプ別のデフォルトのパーティション分割の違い
- 28. ファイルをHDFS内の小さなファイルに分割します
- 29. 複数のパーティションを作成する分割ハイブパーティション
- 30. 制限付きでnをk個のパーティションに分割する
ディストリビューションはそれとは関係ありません(パーティショニング)。これは、ローカルファイルシステムとまったく同じ概念です。 –
パーティション分割は、各パーティションのサブディレクトリにデータを格納します。パーティション化列でフィルタすると、ハイブはフィルタで指定されたサブディレクトリのみをスキャンします。これにより、パフォーマンスが向上します。 @DuduMarkovitz氏によると、これはHDFSのデータ配信と複製とはまったく関係がありません。 – Andrew
私が間違っていれば私を訂正してください。データをハイブ・テーブルにロードするとき、データはセグメント化され、ブロックに分割され、クラスタ内の異なるノードに保存されます。私の仮定は、データを分割することも同じことです。データは、HIVEでPARTITIONEDに設定されている場合はフォルダとサブフォルダに配置されますが、HDFSではブロックとして保存されます。もしそうなら、この場合に何が行われているのか。それが何を提供しているのか。 – kris