8.5. 处理大量信息


如果您的 MirrorMaker 2.0 部署正在处理大量消息,您可能需要调整其配置来支持它。

数据复制的 flush 管道是 source topic →(Kafka Connect) source message queue producer buffer target topic。偏移清除超时周期(offset.flush.timeout.ms)是等待生成者缓冲区(producer.buffer.memory)刷新和偏移数据提交的时间。尝试避免出现大型制作者缓冲区和偏移清除超时周期不足的情况,会导致 清除 或失败提交偏移 类型错误。

这种类型的错误表示生成缓冲区中太多消息,因此在达到偏移清除超时前都无法清除它们。

如果您要获得这类错误,请尝试以下配置更改:

  • 减少 producer.buffer.memory的默认值
  • 将默认值(以毫秒为单位)增加 offset.flush.timeout.ms

更改应有助于将未完成的消息的底层 Kafka Connect 队列保持为可管理的大小。您可能需要调整值,使其具有所需的效果。

如果这些配置更改没有解决错误,您可以尝试通过执行以下操作来增加并行运行的任务数量:

  • 使用 MirrorMaker 2.0 配置中的 tasks.max 属性(connect-mirror-maker.properties)增加任务数量
  • 为运行任务的 worker 增加节点数

处理大量消息的 MirrorMaker 2.0 配置示例

clusters=cluster-1,cluster-2
# ...
cluster-2.offset.flush.timeout.ms = 30000
cluster-2.producer.buffer.memory = 8388608
# ...
tasks.max = 10
Copy to Clipboard Toggle word wrap

返回顶部
Red Hat logoGithubredditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。 了解我们当前的更新.

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.

關於紅帽

我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。

Theme

© 2025 Red Hat