首页 > 其他 > 详细

HDFS小文件常见处理办法

时间:2020-01-06 15:14:19      阅读:183      评论:0      收藏:0      [点我收藏+]

1、 在数据采集的时候,就将小文件或小批数据合成大文件再上传 HDFS
2、 在业务处理之前,在 HDFS 上使用 MapReduce 程序对小文件进行合并
3、 在 MapReduce 处理时,可采用 CombineFileInputFormat 提高效率

HDFS小文件常见处理办法

原文:https://www.cnblogs.com/guodong1789/p/12156138.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!