18.4. 升级 Kafka 代理和 ZooKeeper


在主机机器上升级 Kafka 代理和 ZooKeeper,以使用最新版本的 Apache Kafka。您可以更新安装文件,然后配置并重启所有 Kafka 代理以使用新的 inter-broker 协议版本。执行这些步骤后,数据会使用新的 inter-broker 协议版本在 Kafka 代理之间传输。

注意

从 Kafka 3.0.0 开始,消息格式版本值被假定为与 inter.broker.protocol.version 匹配,不需要设置。该值反映了使用的 Kafka 版本。

先决条件

流程

对于 Apache Kafka 集群的流中的每个 Kafka 代理,一次一个:

  1. 从 Apache Kafka 软件下载页面 的 Streams for Apache Kafka 归档下载

    注意

    如有提示,登录到您的红帽帐户。

  2. 在命令行中,创建一个临时目录并提取 amq-streams-<version>-bin.zip 文件的内容。

    mkdir /tmp/kafka
    unzip amq-streams-<version>-bin.zip -d /tmp/kafka
    Copy to Clipboard Toggle word wrap
  3. 如果运行,停止 ZooKeeper 和主机上运行的 Kafka 代理。

    /opt/kafka/bin/zookeeper-server-stop.sh
    /opt/kafka/bin/kafka-server-stop.sh
    jcmd | grep zookeeper
    jcmd | grep kafka
    Copy to Clipboard Toggle word wrap

    如果您在多节点集群中运行 Kafka,请参阅 第 4.3 节 “执行 Kafka 代理的安全滚动重启”

  4. 从现有安装中删除 libsbin 目录:

    rm -rf /opt/kafka/libs /opt/kafka/bin
    Copy to Clipboard Toggle word wrap
  5. 从临时目录中复制 libsbin 目录:

    cp -r /tmp/kafka/kafka_<version>/libs /opt/kafka/
    cp -r /tmp/kafka/kafka_<version>/bin /opt/kafka/
    Copy to Clipboard Toggle word wrap
  6. 如果需要,更新 config 目录中的配置文件以反映新版本中的任何更改。
  7. 删除临时目录。

    rm -r /tmp/kafka
    Copy to Clipboard Toggle word wrap
  8. 编辑 /opt/kafka/config/server.properties 属性文件。

    inter.broker.protocol.versionlog.message.format.version 属性设置为当前版本。

    例如,如果从 Kafka 版本 3.6.0 升级到 3.7.0,则当前版本是 3.6。

    inter.broker.protocol.version=3.6
    log.message.format.version=3.6
    Copy to Clipboard Toggle word wrap

    为您要从中升级的 Kafka 版本(3.53.6 等)使用正确的版本。将 inter.broker.protocol.version 保持不变在当前设置中,可确保代理可以在升级过程中继续相互通信。

    如果没有配置属性,请使用当前版本添加它们。

    如果您要从 Kafka 3.0.0 或更高版本升级,则只需要设置 inter.broker.protocol.version

  9. 重启更新的 ZooKeeper 和 Kafka 代理:

    /opt/kafka/bin/zookeeper-server-start.sh -daemon /opt/kafka/config/zookeeper.properties
    /opt/kafka/bin/kafka-server-start.sh -daemon /opt/kafka/config/server.properties
    Copy to Clipboard Toggle word wrap

    Kafka 代理和 ZooKeeper 开始为最新的 Kafka 版本使用二进制文件。

    有关在多节点集群中重启代理的详情,请参考 第 4.3 节 “执行 Kafka 代理的安全滚动重启”

  10. 验证重启的 Kafka 代理是否有分区副本。

    使用 kafka-topics.sh 工具来确保代理中包含的所有副本都重新同步。具体步骤请参阅 列出和描述主题

    在后续步骤中,更新您的 Kafka 代理以使用新的 inter-broker 协议版本。

    一次更新每个代理。

    警告

    完成以下步骤后,无法降级 Apache Kafka 的流。

  11. /opt/kafka/config/server.properties 文件中,将 inter.broker.protocol.version 属性设置为 3.7

    inter.broker.protocol.version=3.7
    Copy to Clipboard Toggle word wrap
  12. 在命令行中停止您修改的 Kafka 代理:

    /opt/kafka/bin/kafka-server-stop.sh
    Copy to Clipboard Toggle word wrap
  13. 检查 Kafka 没有运行:

    jcmd | grep kafka
    Copy to Clipboard Toggle word wrap
  14. 重启您修改的 Kafka 代理:

    /opt/kafka/bin/kafka-server-start.sh -daemon /opt/kafka/config/server.properties
    Copy to Clipboard Toggle word wrap
  15. 检查 Kafka 是否正在运行:

    jcmd | grep kafka
    Copy to Clipboard Toggle word wrap
  16. 如果您要从 Kafka 3.0.0 之前的版本升级,请在 /opt/kafka/config/server.properties 文件中将 log.message.format.version 属性设置为 3.7

    log.message.format.version=3.7
    Copy to Clipboard Toggle word wrap
  17. 在命令行中停止您修改的 Kafka 代理:

    /opt/kafka/bin/kafka-server-stop.sh
    Copy to Clipboard Toggle word wrap
  18. 检查 Kafka 没有运行:

    jcmd | grep kafka
    Copy to Clipboard Toggle word wrap
  19. 重启您修改的 Kafka 代理:

    /opt/kafka/bin/kafka-server-start.sh -daemon /opt/kafka/config/server.properties
    Copy to Clipboard Toggle word wrap
  20. 检查 Kafka 是否正在运行:

    jcmd | grep kafka
    Copy to Clipboard Toggle word wrap
  21. 验证重启的 Kafka 代理是否有分区副本。

    使用 kafka-topics.sh 工具来确保代理中包含的所有副本都重新同步。具体步骤请参阅 列出和描述主题

  22. 如果升级使用了它,请从 server.properties 文件中删除旧的 log.message.format.version 配置。

升级客户端应用程序

确保所有 Kafka 客户端应用程序都更新为在升级过程中使用客户端二进制文件的新版本,并验证其与 Kafka 升级的兼容性。如果需要,与负责管理客户端应用程序的团队协调。

提示

要检查客户端是否使用最新的消息格式,请使用 kafka.server:type=BrokerTopicMetrics,name={Produce|Fetch}MessageConversionsPerSec 指标。如果使用最新的消息格式,指标会显示 0。

返回顶部
Red Hat logoGithubredditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。 了解我们当前的更新.

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.

關於紅帽

我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。

Theme

© 2025 Red Hat