7.6. Kafka MirrorMaker 配置
Kafka MirrorMaker (也称为 MirrorMaker 1)使用制作者和消费者在集群间复制数据,如下所示:
- 消费者使用来自源集群的数据
- 生成者将数据输出到目标集群
消费者和制作者配置包括任何所需的身份验证和加密设置。include 属性定义要从源镜像到目标集群的主题。
注意
MirrorMaker 在 Kafka 3.0.0 中已弃用,并将在 Kafka 4.0.0 中删除。因此,用于部署 MirrorMaker 的 AMQ Streams KafkaMirrorMaker 自定义资源已弃用。当使用 Kafka 4.0.0 时,KafkaMirrorMaker 资源将从 AMQ Streams 中删除。
关键的消费者配置
- 消费者组标识符
- MirrorMaker consumer 的使用者组 ID,以便消耗的消息被分配给消费者组。
- 消费者流的数量
- 一个值,用于决定消费者组中的消费者数量,以并行使用消息。
- 偏移提交间隔
- 一个偏移的提交间隔,用于设置消耗和提交消息之间的时间。
关键的生成者配置
- 发送失败的取消选项
- 您可以定义消息发送失败是否忽略或 mirrorMaker 被终止并重新创建。
显示 MirrorMaker 配置的 YAML 示例
apiVersion: kafka.strimzi.io/v1beta2
kind: KafkaMirrorMaker
metadata:
name: my-mirror-maker
spec:
# ...
consumer:
bootstrapServers: my-source-cluster-kafka-bootstrap:9092
groupId: "my-group"
numStreams: 2
offsetCommitInterval: 120000
# ...
producer:
# ...
abortOnSendFailure: false
# ...
include: "my-topic|other-topic"
# ...