首页 > 其他 > 详细

mr的logs的查看

时间:2016-07-20 11:45:16      阅读:237      评论:0      收藏:0      [点我收藏+]

在map或者reduce函数中使用System.out.println打印的信息沾满查看呢?

步骤1:启动history server

/usr/local/hadoop-2.6.0/sbin/mr-jobhistory-daemon.sh start historyserver

步骤2:使用http://hadoop26:19888/jobhistory来查看作业log

技术分享

 

意外情况:

如果在查看日志的时候,发生了下面的情况

技术分享

在yarn-default.xml中有这样的一个配置

<property>
<description>Whether to enable log aggregation. Log aggregation collects
each container‘s logs and moves these logs onto a file-system, for e.g.
HDFS, after the application completes. Users can configure the
"yarn.nodemanager.remote-app-log-dir" and
"yarn.nodemanager.remote-app-log-dir-suffix" properties to determine
where these logs are moved to. Users can access the logs via the
Application Timeline Server.
</description>
<name>yarn.log-aggregation-enable</name>
<value>false</value>
</property>

 我们需要把这个值改为true,也就是在yarn-site.xml中再配置一遍

配置完成后重启historyserver即可。

现在来看看logs的输出吧:

技术分享

mr的logs的查看

原文:http://www.cnblogs.com/dongdone/p/5687626.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!