首页 > 其他 > 详细

mapreduce任务失败、重试、推测式执行机制小结

时间:2014-07-30 12:21:22      阅读:356      评论:0      收藏:0      [点我收藏+]
    mapreduce中我们自定义的mapper和reducer程序在执行后有可能遇上出错退出的情况,mapreduce中jobtracker会全程追踪任务的执行情况,对于出错的任务mapreduce也定义了一套自己的处理方式。
    首先要明确的是mapreduce判断任务失败的方式。三种情况下任务会被认为执行失败:返回非0值、产生java异常、超时(长时间没响应)。对于第一种,通常用于streaming程序。如果你的mapper或reducer程序结束的时候返回了非0值,那么mapreduce会认为你的任务失败了。第二种主要用于java写的mapreduce程序。对于第三种,估计很多人都不知道。对于streaming,mapreduce在任务执行后会监测任务的输出(标准输出),如果任务在一定时间内无输出(这个时间可以通过mapred.task.timeout选项设定),则mapreduce会认为这个任务失败。因此写mapreduce程序的时候一定要留意程序是否会发生超时间假死的情况,如果有这种情况那就要考虑下程序会不会被误杀。
    在任务失败后,mapreduce会重新执行任务,重试的次数也是可以设定的,一般是4次。
    最后还要注意的是mapreduce还有一个推测式执行机制,在这个机制下如果任务执行时间超出预期(这个预期是根据其他任务的执行时间定的),那么mapreduce会另外启动一个跟这个任务相同的任务并行执行,在某个任务最先执行完成之后杀死其他尚未完成的任务。这个机制主要是用来避免某个reduce任务的执行环境有问题或者某个reduce任务执行中发生了反常情况而迟迟不能完成拖慢整体进度。但是这个机制在有些情况下也会造成问题,例如:如果你的reduce程序在相同输入并发执行的情况下会造成冲突,那么推测式执行机制对你来说就是个极大的隐患。不过好在推测式执行机制也是可以关闭的。

mapreduce任务失败、重试、推测式执行机制小结,布布扣,bubuko.com

mapreduce任务失败、重试、推测式执行机制小结

原文:http://blog.csdn.net/l1902090/article/details/38294873

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!