首页 > 其他 > 详细

Kafka学习笔记

时间:2018-08-25 11:02:39      阅读:122      评论:0      收藏:0      [点我收藏+]

学习的知识点记录如下:

1.bin目录下常用的kafka工具

2.修改分区数时,只能进行增加,不能减少。

3.kafka分区保序,如果将kafka使用在这样的场景里面,后端消费者同样也要做到保序,比如多线程消费进行排序,或者单线程消费。

4.扩容方式有两种:一种扩分区,--alter;一种不改分区扩broker,通过reassign进行分区数据迁移。在分区保序的场景下,前者可能会造成数据乱序,后者场景有短暂的停服时间。

5消息生命周期设置有两种:一,根据数据时间;二,根据数据大小。如果做以上扩分区操作,可能会造成短时间内的数据偏斜。

6.消息队列语义:at least once,at most once,exactly once 也需要后端来应用配合完成。如数据库的upsert。

7.offset需要自己管理。比如消费数据写两份的场景,可以通过,消费者事物的方式进行双写,然后在commit offset。

8.生产者有同步模式和异步批量模式,是可靠性和性能的取舍。

9.同8,同步副本落盘和异步落盘,可靠性能和性能的取舍。

Kafka学习笔记

原文:https://www.cnblogs.com/performancetest/p/9532862.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!