17.6. 升级消费者和 Kafka Streams 应用程序以合作重新平衡
根据需要,在 Kafka 升级后,您可以升级 Kafka 用户和 Kafka Streams 应用程序,以使用 增量合作重新平衡 协议进行分区重新平衡,而不是默认的 eager 重新平衡 协议。在 Kafka 2.4.0 中添加新协议。
消费者将分区分配保持在协作重新平衡中,并仅在需要实现均衡的集群时在进程结束时撤销它们。这可减少消费者组或 Kafka Streams 应用程序不可用。
注意
升级到增量合作重新平衡协议是可选的。eager rebalance 协议仍被支持。
先决条件
- 您已 升级了 Kafka 代理
流程
要升级 Kafka 使用者,以使用增量合作重新平衡协议:
-
将 Kafka 客户端
.jar文件替换为新版本。 -
在消费者配置中,将
cooperative-sticky附加到partition.assignment.strategy。例如,如果设置了范围策略,请将配置更改为范围,cooperative-sticky。 - 依次重启组中的每个消费者,等待用户在每次重启后重新加入组。
-
通过从消费者配置中删除之前的
partition.assignment.strategy来重新配置组中的每个使用者,仅保留协作-sticky策略。 - 依次重启组中的每个消费者,等待用户在每次重启后重新加入组。
升级 Kafka Streams 应用程序以使用增量合作重新平衡协议:
-
将 Kafka Streams
.jar文件替换为新版本。 -
在 Kafka Streams 配置中,将
upgrade.from配置参数设置为您要从升级到的 Kafka 版本(如 2.3)。 - 依次重启每个流处理器(节点)。
-
从 Kafka Streams 配置中删除
upgrade.from配置参数。 - 依次重启组中的每个使用者。