首页 > 编程语言 > 详细

hive实现全局排序使用sort by+order by还是直接使用order by表较好

时间:2020-11-02 16:37:14      阅读:178      评论:0      收藏:0      [点我收藏+]

如果数据量较小的话,直接使用order by即可 。实际场景中一般先使用sort by再使用order by效率更高一些 。

sort by只能保证在reduce内有序 。

hive实现全排序:

1.要么用order by,但这样默认了reducer个数为1,效率低下。

2.要么用sort by+order by,sort by过程可以设置reducer个数(n),order by过程用n个reducer的输出文件进行一次全排序,得到最终的结果。

参考:

https://blog.csdn.net/xxzhangx/article/details/105501015

hive实现全局排序使用sort by+order by还是直接使用order by表较好

原文:https://www.cnblogs.com/-courage/p/13914542.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!