HadoopでDFSを消去するにはどうすればよいですか?HadoopでDFSを消去する
答えて
hdfs dfs -rm -r "/*"
(旧答えが廃止されました)
bin/hadoop namenode -format
Watchout:既存の古いデータノードは、この新しくフォーマットされたdfsで動作しません。 http://issues.apache.org/jira/browse/HDFS-107を参照してください。 – Leonidas
あなたは二つのことを行う必要があります。
は、すべてのノードからメインのHadoopストレージディレクトリを削除します。このディレクトリは、hdfs-site.xmlのhadoop.tmp.dirプロパティで定義されています。
再フォーマット名前ノード:
hadoop namenode -format
あなただけの(2)、それが唯一の名前ノードによって格納されたメタデータを削除しますけど、すべての一時的な記憶を取り除くしない場合とデータノードブロック。
すべての単一ノードからメインのhadoopストレージディレクトリを削除することは実現不可能です! – Mehraban
namenode -formatを実行すると、すべてのメタデータが削除され、クラスタも使用できなくなります。これはお勧めできません。 –
また、namenode -formatがnamenodeの新しいクラスタIDを生成し、他のすべてのデーモンがnamenodeと通信できない場合もあります。誤った指導を避けるためにあなたの答えを更新してください。ありがとう –
これは私が過去にしなければならなかったことです。
1. NameNodeのhadoopディレクトリに移動し、すべてのhadoopプロセスを停止します。デフォルトのすべて停止スクリプトを実行します。これにより、DFSも停止します。例えば今、すべてのマシン上で、クラスタ内の
cd myhadoopdirectory
bin/stop-all.sh
2.
は(Namenodes、JobTrackersは、datanodesなど)メインのHadoopストレージ鉱山内のすべてのファイルを削除し、ルートフォルダ内の一時フォルダに設定されています。あなたのファイルは、hadoop.tmp.dirプロパティのconf hdfs-site.xmlファイルにあります。cd /temp/
rm -r *
3.最後に自分の名前のノードに戻って、あなたのHadoopディレクトリに移動し、例えば「-format binに/のHadoop名前ノード」を実行することによって、それをフォーマット
cd myhadoopdirectory
bin/hadoop namenode -format
4.次のコマンドを実行して、クラスタを再度起動します。また、DFSを再起動します。
bin/start-all.sh
5.これはうまくいくはずです。
あなたはこれがDFSの下のすべてのディレクトリとサブディレクトリを削除します
hadoop fs -rmr/
を発行することができます。
別のオプションは、クラスタを停止してから発行することです:
hadoop namenode -format
これはDFS上のすべての内容を消去し、再度クラスタを起動します。
- dfsとmapreduceを停止するには、
bin/stop-all.sh
に電話する必要があります。 - conf/hdfs-site.xmlおよびconf/mapred-site.xmlで設定されたデータディレクトリを削除します。
- /tmpディレクトリにある一時ファイルが削除されていることを確認してください。
上記の手順をすべて実行した後、bin/hadoop namenode -format
を呼び出してdfsを再生成することができます。
あなたは
${HADOOP_HOME}/bin/stop-mapred.sh
${HADOOP_HOME}/bin/stop-dfs.sh
またはその擬似が配布場合は、クラスタの停止は、単に問題:
${HADOOP_HOME}/bin/stop-all.sh
フォーマットあなたのHDFS
hadoop namenode -format
- 1. /var/log/hadoop-hdfsのhadoop-hdfsログを消去する方法
- 2. Hadoop DFSパーミッションエラー
- 3. hadoop dfs -ls complains
- 4. Hadoop DFSエラー
- 5. hadoop dfs -copyFromLocal src dest
- 6. 消去を使ってベクトルから要素を消去する
- 7. hadoop dfsでクラスタのフルパスを確認する方法
- 8. C#、オーバーラップバックグラウンドイメージの消去部分の消去を防止する
- 9. 一時的なリストを消去せずに消去する
- 10. hadoop streaming無効なDFSディレクトリ名
- 11. チャッターボットデータベースを消去
- 12. Webpackキャッシュを消去する
- 13. Python:ログファイルを消去する
- 14. PhoneGapキャッシュを消去する
- 15. ハスケルでタイプ消去?
- 16. Xcodeで画面を消去
- 17. ループでベクトルを消去する
- 18. VistaでListviewヘッダーイメージを消去する
- 19. jQueryで動的コンテンツを消去する
- 20. ボタンで画面を消去する
- 21. opencv 3.0でboundRectを消去するC++
- 22. ファイルをバッチで消去する
- 23. Railsプロダクションサーバでページキャッシュを消去する
- 24. ブラウザでフォームデータを消去する
- 25. Session_EndでCookieを消去するC#
- 26. 301リダイレクトファイルでURLを消去する
- 27. Pythonでsys.argvを消去する
- 28. 消去要素
- 29. マップ消去エラー
- 30. ローカルストレージの消去
私はHDFS DFS -rmr' ' –
ルートではない私はこれをしようとすると、私はサブディレクトリを削除することができ、削除失敗したエラーを取得しますが、これで廃止されており、また、' /動作しません'。代わりに 'hdfs dfs -rm -r"/* "'を試してください。 – Mehraban