Hadoop

HDFS常用命令操作-hdfs数据导出到本地

2023-10-25  本文已影响0人  彩色的炮灰

1、创建目录
创建单层目录
执行命令:hdfs dfs -mkdir /ied


image.png

利用Hadoop WebUI查看创建的目录


image.png

创建多层目录,执行命令:hdfs dfs -mkdir /luzhou/lzy,会报错,因为/luzhou目录不存在


image.png

可以先创建/luzhou目录,然后在里面再创建lzy子目录,但是也可以一步到位,需要一个-p参数
执行命令:hdfs dfs -mkdir -p /luzhou/lzy


image.png

利用Hadoop WebUI查看创建的多层目录


image.png

2、查看目录
执行命令:hdfs dfs -ls /,查看根目录


image.png image.png

执行命令:hdfs dfs -ls /luzhou


image.png

查看根目录里全部的资源,要用到地柜参数-R(必须大写),执行命令:hdfs dfs -ls -R /


image.png

3、上传本地文件到HDFS
创建test.txt文件,执行命令:echo "hello hadoop world" > test.txt


image.png

查看test.txt文件内容


image.png

上传test.txt文件到HDFS的/ied目录,执行命令:hdfs dfs -put test.txt /ied


image.png

查看是否上传成功


image.png

利用Hadoop WebUI界面查看


image.png

4、查看文件内容
执行命令:hdfs dfs -cat /ied/test.txt


image.png

5、下载HDFS文件到本地
先删除本地的test.txt文件


image.png

下载HDFS文件系统的/ied/test.txt到本地当前目录不改名,执行命令:hdfs dfs -get /ied/test.txt,检测是否下载成功


image.png

可以将HDFS上的文件下载到本地指定位置,并且可以更改文件名

执行命令:hdfs dfs -get /ied/test.txt /home/exam.txt


image.png

检查是否下载成功


image.png

6、删除HDFS文件
执行命令:hdfs dfs -rm /ied/test.txt


image.png

检查是否删除成功


image.png

使用通配符,可以删除满足一定特征的文件


image.png

7、删除HDFS目录
执行命令:hdfs dfs -rmdir /luzhou


image.png

提示-rmdir命令删除不了非空目录,要递归删除才能删除非空目录:hdfs dfs -rm -r /luzhou


image.png

删除空目录/BigData,执行命令:hdfs dfs -rmdir /BigData


image.png

8、移动目录或文件
-mv命令兼有移动与改名的双重功能


image.png

将/ied目录更名为/ied01,执行命令:hdfs dfs -mv /ied /ied01

利用Hadoop WebUI查看是否更名成功


image.png

将/ied01/exam.txt更名为/ied/test.txt,执行命令:hdfs dfs -mv /ied01/exam.txt /ied01/test.txt


image.png

查看改名后的test.txt文件内容


image.png

9、文件合并下载
现在/ied01里有一个test.txt,创建sport.txt和music.txt并上传


image.png

合并/ied01目录的文件下载到本地当前目录的merger.txt,执行命令:hdfs dfs -getmerge /ied01/* merger.txt


image.png

查看本地的merger.txt,看是不是三个文件合并后的内容


image.png

merger.txt是music.txt、sport.txt与test.txt合并后的结果

10、检查文件信息
检查test.txt文件,执行命令:hdfs fsck /ied01/test.txt -files -blocks -locations -racks


image.png

————————————————
参考链接:https://blog.csdn.net/weixin_64272885/article/details/127993386

上一篇下一篇

猜你喜欢

热点阅读