-1
spark scalaを使用して、ディレクトリからHDFS内の別のディレクトリにすべてのファイルを移動しようとしています。要するに、プログラム的な方法でhadoop fs -mvコマンドを使用する方法を見つける必要があります。私がhadoopに新しいので、誰かが助けることができれば素晴らしいだろう。ディレクトリ内のすべてのファイルをhadoop内の別のディレクトリに移動する方法
spark scalaを使用して、ディレクトリからHDFS内の別のディレクトリにすべてのファイルを移動しようとしています。要するに、プログラム的な方法でhadoop fs -mvコマンドを使用する方法を見つける必要があります。私がhadoopに新しいので、誰かが助けることができれば素晴らしいだろう。ディレクトリ内のすべてのファイルをhadoop内の別のディレクトリに移動する方法
HDFS上の操作を行うためには、あなただけの、あなたはあなたがHDFS上でやりたい、そのメソッドを使用することができます
val fs = FileSystem.get(sparkContext.hadoopConfiguration)
を経て、FileSystemインスタンスを取得する必要があります。ファイルを移動する場合は、method
という名前を変更してください。
Hi mark91名前変更メソッドを使用しようとしましたが、入力ディレクトリを出力ディレクトリに移動しました。入力ディレクトリにあるファイルのみを出力ディレクトリに移動する必要があります。 –
ディレクトリの名前を変更すると、ディレクトリを移動します。ファイルの名前を変更すると、ファイルを移動します – mgaido