首页 > 其他 > 详细

Hadoop中最不容错过的压缩知识

时间:2017-01-12 03:30:46      阅读:50      评论:0      收藏:0      [点我收藏+]

标签:数据压缩   hadoop   大数据   impala   hive   


  随着大数据时代的来临,数据体量越来越大,处理这些数据会越来越受到网络IO的限制,为了尽可能多的处理更多的数据我们必须使用压缩。那么压缩在Hadoop里面是不是所有格式都适用呢?它都有哪些性能呢?

压缩在sqoop里面可以做,在hive和impala里面也可以做。那么什么情况下我们会用压缩呢?通常在数据量非常大,我们通过压缩去减小数据量,从而达到将来去使用数据的时候,减少数据传输IO的情况下去使用。压缩对于性能的提升以及存储效率的提高也有作用。

一、数据压缩

每种文件格式都支持压缩,压缩将减少磁盘空间的占用。但是压缩本身会带来CPU的一些开销,所以压缩需要在CPU时间和带宽/存储空间之间进行权衡。比如:

(1)有些算法会花费很长的时间,但节省更多的空间.

(2)有些算法更快,但节省的空间有限。

这个怎么来理解呢?我们打个比方,假如说1T的数据压缩成100G,可能需要10分钟。如果压缩成500G可能需要1分钟。请问你选择那种方式?所以我们就需要在CPU时间和带宽之间进行一个权衡,当然这里不存在哪种方式的好坏,只是我们根据自己使用的需求去选择。

另外,压缩对性能很有好处:很多Hadoop作业是受IO限制的,使用压缩可以每个IO操作处理更多的数据,压缩也可以改进网络传输的性能。

二、压缩Codecs

压缩算法的实现被称为codec,是Compressor/Decompressor的简写。很多codecs在Hadoop中很常用,每种都有不同的性能特性。但是,不是所有的Hadoop工具都是跟所有codecs兼容的。Hadoop中常用的压缩算法有bzip2、gzip、lzo、snappy,其中lzo、snappy需要操作系统安装native库才可以支持。

在这里我们看一下不同压缩工具的性能:

技术分享

Bzip2和GZIP是比较消耗CPU的,压缩比最高,GZIP不能被分块并行的处理;Snappy和LZO差不多,稍微胜出一点,CPU消耗的比GZIP少。通常情况下,想在CPU和IO之间取得平衡的话,用Snappy和LZO比较常见一些。这里我重点推荐使用Snappy,因为它可以提供很好地压缩性能,而且压缩的数据是可以分片的,对于后期的运行处理有很大的作用。

另外要注意:对于热数据,速度更重要,1秒压缩40%的数据比10秒压缩80%的数据更好。

三、Sqoop使用压缩

Sqoop使用--compression-codec标志

示例:

--compression-codec
org.apache.hadoop.io.compress.SnappyCodec

四、Impala和Hive使用压缩

Impala和Hive使用压缩,需要我们在创建表的语法中去指定。可能对于不同的压缩而言,我们指定的属性和语法会有不同。

注意:Impala在内存里查询数据-压缩和解压缩都在内存

Impala示例:

技术分享

建议大家平时多关注一些大数据的相关知识,不断提升和改善自己的知识架构,我自己平时喜欢看“大数据cn”这个微信公众号,里面内容对于我而言很不错,也推荐大家看看。


本文出自 “11872756” 博客,请务必保留此出处http://11882756.blog.51cto.com/11872756/1891080

Hadoop中最不容错过的压缩知识

标签:数据压缩   hadoop   大数据   impala   hive   

原文:http://11882756.blog.51cto.com/11872756/1891080

(0)
(0)
   
举报
评论 一句话评论(0
0条  
登录后才能评论!
© 2014 bubuko.com 版权所有 鲁ICP备09046678号-4
打开技术之扣,分享程序人生!
             

鲁公网安备 37021202000002号