首页 > 其他 > 详细

Apache Kafka源码分析 – ReplicaManager

时间:2014-03-04 01:44:16      阅读:582      评论:0      收藏:0      [点我收藏+]

如果说controller作为master,负责全局的事情,比如选取leader,reassignment等
那么ReplicaManager就是worker,负责接收controller的command以完成replica的管理工作

而command主要有两种,LeaderAndISRCommand和StopReplicaCommand

StopReplicaCommand

处理很简单,主要就是停止fetcher线程,并删除partition目录

stopReplicas

bubuko.com,布布扣

stopReplica

bubuko.com,布布扣

 

LeaderAndISRCommand

becomeLeaderOrFollower
做些epoch和valid的检查,然后区分出leader和follows,分别调用makeLeaders,makeFollowers

bubuko.com,布布扣


makeLeaders
停止Fetcher,调用partition.makeLeader,把这些partition加到leaderPartitions中

bubuko.com,布布扣


makeFollowers
除了修改leaderPartitions和Mark as followers以外
作为followers,需要truncated log到highWatermark,然后启动fetcher去catch leader

bubuko.com,布布扣


checkpointHighWatermarks
对于每个replica而已,HighWatermarks是很重要的,因为只有通过它可以知道到底哪些数据是一致的,这样就算broker crash,恢复的时候只需要基于HighWatermarks继续catch就可以
所以对于HighWatermarks,需要做cp

bubuko.com,布布扣

Apache Kafka源码分析 – ReplicaManager,布布扣,bubuko.com

Apache Kafka源码分析 – ReplicaManager

原文:http://www.cnblogs.com/fxjwind/p/3578417.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!