Cloudera Hadoop内で指定した日数のディレクトリをクリーンアップできるようにするbashスクリプトを作成しようとしています。私はファイルを一時ディレクトリに移動してからhdfs dfs -rm
を実行することを考えましたが、hdfs dfs -ls
,-mv
、または-rm
のHadoopコマンド構文内でを使用することはできません。私はまた-moveToLocal
について考えましたが、それは選択肢ではありません。 -copyToLocal
または-get
のみ。どんな提案も大歓迎です。Cloudera Hadoopから指定した日数のディレクトリを削除します
1
A
答えて
0
シェルスクリプトでHadoopコマンドを構築しようとしましたか?そうすれば、N日後にクリーンアップしてジョブを実行するファイルを探すことができます。
find $dir -type f -name '*.log' -mtime +7 -exec sh cleanup.sh \;
1
......
は、jarは(あなたが 見つけCMDで正確なディレクトリを検索することができます利用可能なディレクトリになります
hadoop jar /opt/....../jars/search-mr-*-job.jarorg.apache.solr.hadoop.HdfsFindTool -find /hdfs/ -mtime +365 -rm rvf {} \;
(未テスト)これを試してみてください。
ここで、365日を超えるファイルの場合は
+365
です。- ここで、
/hdfs/
は、ファイルを削除する必要があるディレクトリです。詳細については
は、下のリンクをチェック -
https://www.cloudera.com/documentation/enterprise/latest/topics/search_hdfsfindtool.html
関連する問題
- 1. Hadoop - Hive:指定された日数よりも古いデータを削除します。
- 2. 指定されたディレクトリにゼロサイズのすべてのファイルを削除します
- 3. テーブル名から削除するCloudera Impala
- 4. Hadoop DFSが現在のディレクトリを指しています
- 5. 指定したファイルをドキュメントディレクトリから削除する
- 6. hadoopでx日より古いファイルを削除します。
- 7. テーブルから行を削除しますが、指定した番号を保持
- 8. System.IO.Deleteを使用してディレクトリから特定のファイルを削除しますか?
- 9. X日より古いディレクトリを削除しますか?
- 10. 指定した日付から色を変更しますか?
- 11. データフレームから指定されたレベルの因子の行を削除します
- 12. Githubから無視されたディレクトリを削除します
- 13. Clojure指定された場所のベクトルから項目を削除します
- 14. Cloudera hadoop Tableauのコネクタ
- 15. 指定したクラスのオブジェクトボックスからvarsを除外します
- 16. JQueryを使用して変数から指定したテキストを削除します
- 17. boost :: intrusive :: listから指定された項目を削除します。
- 18. ディレクトリをHDFSでファイル化する方法Hadoop(Cloudera)java
- 19. 前のすべてのコミットからディレクトリを削除します
- 20. 整数ではなく、指定された数値範囲外のパンダDataFrameから列を削除します
- 21. Ubuntu上のHadoopインストール、HadoopファイルVS HortonworksまたはCloudera
- 22. 特定のディレクトリから重複したファイルを削除する方法
- 23. ディレクトリを削除してイメージマジックを削除できますか?
- 24. Codeigniter:すべてのファイルを削除した後にディレクトリを削除します
- 25. Cloudera Hadoop VM no eclipse
- 26. ディレクトリ内の特定の列から空白を削除します。
- 27. clouderaのローカルファイルシステムからhadoop/hdfsにファイルをコピーできません
- 28. ディレクトリ内の特定のファイルを検索し、ディレクトリを削除します。
- 29. git repoから '.git'ディレクトリを削除しますか?
- 30. 指定したオプションをtinymceの右クリックメニューから削除するには?