1. 系统⽬录详细检测

语法:

hdfs fsck [目录|文件]
案例1:查看 /user/huzl 目录详细使用情况
hdfs fsck /user/huzl 
  1. 系统⽬录详细检测

语法:
hdfs fsck [目录|文件] -files -blocks -locations -racks

案例1:查看 /user/huzl/a.txt 文件详细情况

hdfs fsck /user/huzl/a.txt -files -blocks -locations -racks
  1. 检测 DataNode 报告
hdfs dfsadmin -report

  1. 文件限额配置

在多人共用 HDFS 的环境下,配置设置非常重要。特别是在 Hadoop 处理大量资料的环境,如果没有配额管理,很容易把所有的空间用完造成别人无法存取。Hdfs 的配额设定是针对目录而不是针对账号,可以让每个账号仅操作某一个目录,然后对目录设置配置。

HDFS 文件的限额配置允许我们以文件个数,或者文件大小来限制我们在某个目录下上传的文件数量或者文件内容总量,以便达到我们类似百度网盘等限制每个用户允许上传的最大的文件的量。

案例1:查看 /user/huzl 目录配额信息

hdfs dfs -count -q -h /user/huzl
结果:

文件数限额  可用文件数 空间额度大小(字节)   可用空间额度大小

none    inf    none    inf   

目录数   文件数 总大小 文件或目录名

1    1    821    /user/huzl

  1. 创建目录的名称限额

hdfs dfsadmin -setQuota 3 /user/huzl
6.清空目录限额

hdfs dfsadmin -clrQuota /user/huzl
  1. 创建空间大小限额

hdfs dfsadmin -setSpaceQuota 4k /user/huzl

构建指定大小文件

dd if=/dev/zero of=1.txt bs=1M count=2

注意:

if - File used as stdin

of - File used as stdout

bs - Bytes of a block

count - number of blocks

/dev/zero 是 Linux 下的一个特殊文件,从中读出的字符都是 (ASCII NUL, 0x00)

清除大小限制

hdfs dfsadmin -clrSpaceQuota /user/huzl

最后修改: 2023年12月27日 星期三 17:10