首页 > 其他 > 详细

辛星笔记之Hadoop权威指南第三篇combiner

时间:2015-03-01 11:56:08      阅读:316      评论:0      收藏:0      [点我收藏+]

     集群上的可用宽带限制了MapReduce作业的数量,因此最重要的一点是尽量避免map任务和reduce任务之间的数据传输。Hadoop允许用户针对map任务的输出指定一个合并函数,有时候我们也称作combiner,它就像mapper和reducer一样。

      合并函数的输出作为reduce函数的输入,由于合并函数是一个优化方案,所以Hadoop无法确定针对map任务输出中任一条记录需要调用多少次合并函数。不管我们调用多少次合并函数,reducer的输出结果都应该一致。合并函数的规则限定了可以使用的函数类型。

     我们仍然需要reduce函数来处理不同map输出中具有相同键的记录,它能够有效的减少map和reduce之间的数据传输量,在MapReduce作业中使用combiner,是需要谨慎考虑的。

     在MapReduce程序中,合并函数是通过reducer接口来定义的,并且我们需要在JobConf中设置combiner类,这里使用的是setCombinerClass这个方法。














     

辛星笔记之Hadoop权威指南第三篇combiner

原文:http://blog.csdn.net/xinguimeng/article/details/44001507

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!