对于datanode配置预留空间的方法 为:在hdfs-site.xml添加如下配置

<property>

<name>dfs.datanode.du.reserved</name>

<value>10737418240</value>

</property>

dfs.datanode.du.reserved的单位为字节,上面的预留空间为10G,预留30G:32212254720

预留20G:21474836480

预留空间可能遇到的问题:预留了10G,但是该节点磁盘空间去没有真正剩余,而是一直会放数据,原因可能是如下方面:

通过 df -h 查看容量显示如下:
Filesystem            Size  Used Avail Use% Mounted on
/dev/sda4             243G  200G   31G  87% /data

注:说明总容量为243G,使用了200G,可用31G 这里有个问题,使用量+可用量!=总容量,少掉了12G,这就是问题所在。
dfs.datanode.du.reserved设置为10G的话

通过hadoop dfsadmin -report 查看显示如下

Configured Capacity: 228260941824 (232.58 GB)
DFS Used: 208414818078 (194.10 GB)
Non DFS Used: 0 (0 B)
DFS Remaining: 19846123746 (38.48 GB)

Configured Capacity显示的dfs.data.dir指定的目录空间总容量大小-dfs.datanode.du.reserved的容量,
如果像之前设置 dfs.datanode.du.reserved为10G的话,Configured Capacity为:232.58 GB,DFS Remaining则为38.48G,
但实际/dev/sda4 可用空间才只有31G,所以有数据的话会一直会存入该节点,直到放满。

解决方法:将dfs.datanode.du.reserved设置更大。目前设置为30G
这样,hadoop dfsadmin -report 查看
Configured Capacity: 228260941824 (212.58 GB)
DFS Used: 208414818078 (194.10 GB)
Non DFS Used: 0 (0 B)
DFS Remaining: 19846123746 (18.48 GB)

dfs可用空间18.48<31G,所以当dfs全部用完,磁盘/dev/sda4还是有13G空间空闲,达到要的效果!

最新文章

  1. Linux下UPnP sample分析
  2. ngrok 配置
  3. js跨域--服务器端设置
  4. conpot_usage简要说明
  5. Contest 20140923 潛行世界 拓撲排序,期望
  6. canvas——画板
  7. RedHat下GCC及G++的安装
  8. 创建ASPState数据库
  9. 微信小程序入门之构建一个简单TODOS应用
  10. 来一手 AOP 注解方式进行日志记录
  11. ubuntu更换阿里源
  12. Ubuntu 16.04下sublime text3安装
  13. 用PMML实现机器学习模型的跨平台上线
  14. ajax请求aspx.cs后台方法
  15. springBoot(4)---热部署,配置文件使用
  16. JedisCluster
  17. 【gulp】gulp-file-include 合并 html 文件
  18. MySQL加锁处理分析(转)
  19. rsync同步数据---把左边的文件全部拷贝到右边
  20. SharePoint 沙盒无法启动新的解决方案服务的SPUserCodeV4

热门文章

  1. Chapter 5 Blood Type——19
  2. [三]基础数据类型之Integer详解
  3. QSS的使用(二)——实现ColorLabel
  4. asp.net mvc Html.BeginForm()及Html.Action用法
  5. &quot;每日一道面试题&quot;.net托管堆是否会存在内存泄漏的情况
  6. Android破解学习之路(十一)—— 关于去更新
  7. 前端入门12-JavaScript语法之函数
  8. C# 正则表达式应用
  9. 想要在launcher中模拟按home键。
  10. Tips on GORM, Avoid Error about &quot;duplicate column name: id&quot;