首页 > 其他 > 详细

HBase表的预分区

时间:2021-06-12 11:09:28      阅读:26      评论:0      收藏:0      [点我收藏+]

HBase表的预分区

  • 当一个table刚被创建的时候,Hbase默认的分配一个region给table。也就是说这个时候,所有的读写请求都会访问到同一个regionServer的同一个region中,这个时候就达不到负载均衡的效果了,集群中的其他regionServer就可能会处于比较空闲的状态。
  • 解决这个问题可以用pre-splitting,在创建table的时候就配置好,生成多个region。

1 为何要预分区?

  • 增加数据读写效率
  • 负载均衡,防止数据倾斜
  • 方便集群容灾调度region
  • 优化Map数量

2 预分区原理

  • 每一个region维护着startRowKey与endRowKey,如果加入的数据符合某个region维护的rowKey范围,则该数据交给这个region维护。

3 手动指定预分区(三种方式)

  • 方式一
    create ‘person‘,‘info1‘,‘info2‘,SPLITS => [‘1000‘,‘2000‘,‘3000‘,‘4000‘]
    

技术分享图片

  • 方式二:也可以把分区规则创建于文件中
    cd /bigdata/install
    vi split.txt
    
    • 文件内容
    aaa
    bbb
    ccc
    ddd
    
    • hbase shell中,执行命令
    create ‘student‘,‘info‘,SPLITS_FILE => ‘/bigdata/install/split.txt‘
    
    • 成功后查看web界面

技术分享图片

  • 方式三: HexStringSplit 算法
    • HexStringSplit会将数据从“00000000”到“FFFFFFFF”之间的数据长度按照n等分之后算出每一段的起始rowkey和结束rowkey,以此作为拆分点。
    • 例如:
    create ‘mytable‘, ‘base_info‘,‘ extra_info‘, {NUMREGIONS => 15, SPLITALGO => ‘HexStringSplit‘}
    

技术分享图片

HBase表的预分区

原文:https://www.cnblogs.com/tenic/p/14877661.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!