kafka新版Consumer api简介

2019-03-30  本文已影响0人  星星之火在心中

1: 背景
kafka 0.9版本以后引入了新版消费api

2: 旧版api
旧的消费者依赖于zookeeper管理消费组(译注:ZookeeperConsumerConnector->ZKRebalancerListener),

3: 新版api
新的消费者使用了消费组协调协议. 对于每个消费组,会选择一个brokers作为消费组的协调者(group coordinator).
协调者负责管理消费者组的状态. 它的主要工作是负责协调partition的分配(assignment): 当有新成员加入,旧成员退出,
或者topic的metadata发生变化(topic的partitions改变).重新分配partition叫做消费组的平衡(group rebalance)
当消费组第一次被初始化时,消费者通常会读取每个partition的最早或最近的offset.然后顺序地读取每个partition log的消息.
在消费者读取过程中,它会提交已经成功处理的消息的offsets

推荐资料:http://zqhxuyuan.github.io/2016/02/20/Kafka-Consumer-New/

上一篇下一篇

猜你喜欢

热点阅读