各ノードに次のHDFSマウントポイントを持つ3つのノードを含むHadoopクラスタ(HDP 2.6)をセットアップしました。DataNodeディレクトリを削除するときのHDFS動作
- を/ mnt/datadisk1
- を/ mnt/datadisk2
- を/ mnt/datadisk3
だから、私の/etc/fstab
ファイルには、3つのノードのそれぞれに次のようになります。
/dev/mapper/centos-home /home xfs defaults 0 0
...
# Here the HDFS Partitions:
/dev/sdb /mnt/datadisk1 xfs defaults 0 0
/dev/sdc /mnt/datadisk2 xfs defaults 0 0
/dev/sdd /mnt/datadisk3 xfs defaults 0 0
パスもHDFS config(Ambari)dfs.datanode.data.dir = /mnt/datadisk1,/mnt/datadisk2,/mnt/datadisk3
に設定されています。
私の質問は次のとおりです。 /mnt/datadisk3
私のHadoopノードですか? HDFSが再調整され、このパーティションにあったデータが再複製されますか? /mnt/datadisk3
他のノードのパーティションも使用できますか?
各パーティションのサイズは約1 TBです。その後、私のHDFSは3*1TB + 3*1TB + 2*1TB = 8TB
、または2*1TB + 2*1TB + 2*1TB = 6TB
しかないでしょうか(なぜならdatadisk3
のパーティションはすべてHDFSから削除されるからです)。