首页 > 其他 > 详细

Reducetask并行度机制

时间:2019-09-14 22:08:49      阅读:113      评论:0      收藏:0      [点我收藏+]

reducetask并行度同样影响整个job的执行并发度和执行效率,与maptask的并发数由切片数决定不同,Reducetask数量的决定是可以直接手动设置

job.setNumReduceTasks(4);

如果数据分布不均匀,就有可能在reduce阶段产生数据倾斜

注意: reducetask数量并不是任意设置,还要考虑业务逻辑需求,有些情况下,需要计算全局汇总结果,就只能有1reducetask

 

数据倾斜与解决方式 图示:

技术分享图片
 

 



Reducetask并行度机制

原文:https://www.cnblogs.com/TiePiHeTao/p/2a3f470617adbdf6c30b8f22365c3ec3.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!