[原文地址]

日志聚集是YARN提供的日志中央化管理功能,它能将运行完成的Container/任务日志上传到HDFS上,从而减轻NodeManager负载,且提供一个中央化存储和分析机制。默认情况下,Container/任务日志存在在各个NodeManager上,如果启用日志聚集功能需要额外的配置。

这个日志存储的就是具体map和reduce的日志,包括框架的和应用程序里自己打印的。这个日志聚合是用来看日志的,而mapreduce job history server,则是用来看某个application的大致统计信息的,包括启停时间,map任务数,reduce任务数以及各种计数器的值等等。job history server是抽象概要性的统计信息,而聚合日志是该application所有任务节点的详细日志集合。

查看日志的命令:$HADOOP_HOME/bin/yarn logs -applicationId <app Id>。app id在你命令行执行mapreduce任务的
时候会出现的,比如会出现这么一行:

15/03/16 20:14:27 INFO mapreduce.Job: The url to track the job: http://ylhadoop126:8088/proxy/application_1426507165782_0002/。
或者去你配置的yarn.nodemanager.remote-app-log-dir所指定的hdfs路径找,具体路径格式为${yarn.nodemanager.remote-app-log-dir}/$user/logs/${app Id}/$nodelog

要实现日志聚集,只需要在yarn-site.xml中配置如下几个参数:

(1) yarn.log-aggregation-enable

参数解释:是否启用日志聚集功能。

默认值:false

(2) yarn.log-aggregation.retain-seconds

参数解释:在HDFS上聚集的日志最多保存多长时间。

默认值:-1

(3) yarn.log-aggregation.retain-check-interval-seconds

参数解释:多长时间检查一次日志,并将满足条件的删除,如果是0或者负数,则为上一个值的1/10。

默认值:-1

(4) yarn.nodemanager.remote-app-log-dir

参数解释:当应用程序运行结束后,日志被转移到的HDFS目录(启用日志聚集功能时有效)。

默认值:/tmp/logs

 
 

最新文章

  1. mysql之group_concat函数详解
  2. CentOS 设置网络(修改IP&amp;修改网关&amp;修改DNS)--update.14.08.15
  3. 3.1决策树理论--python深度机器学习
  4. Java实现的 线程池
  5. DTU软硬件方案
  6. poj2141---字符串转换
  7. Java DecimalFormat 格式化数字
  8. 个人收集资料整理-WebForm
  9. 显示进度条tqdm
  10. 微信LazyMan笔试题的深入解析和实现
  11. JsonArray和JsonObject遍历方法
  12. 本表触发更新modifytime,跨表更新modifytime 触发器
  13. 初识Hibernate的主配置和映射配置
  14. Learning ROS for Robotics Programming Second Edition学习笔记(七) indigo PCL xtion pro live
  15. 静态成员函数与pthread_create,纯虚函数匹配使用实例
  16. [Python数据挖掘]第5章、挖掘建模(下)
  17. js回顾
  18. openssh允许root用户登录
  19. python 中 __name__ 的使用
  20. [!] CocoaPods could not find compatible versions for pod &quot;Folly&quot;问题举例

热门文章

  1. 安装Harbor
  2. mysql函数之SUBSTRING_INDEX(str,&quot;/&quot;,-1)
  3. 万网域名查询API接口
  4. vim配置go语法高亮
  5. Unity应用架构设计(7)——IoC工厂理念先行
  6. tf更新tensor/自定义层
  7. mysql索引知识简单记录
  8. OraclePLSQL编程
  9. VMware vCenter Server 6.5配置群集功能
  10. webpack模块化原理