8.5. 处理大量信息
如果您的 MirrorMaker 2.0 部署正在处理大量消息,您可能需要调整其配置来支持它。
数据复制的 flush 管道是 source topic →(Kafka Connect) source message queue offset.flush.timeout.ms
)是等待生成者缓冲区(producer.buffer.memory
)刷新和偏移数据提交的时间。尝试避免出现大型制作者缓冲区和偏移清除超时周期不足的情况,会导致 清除 或失败提交偏移 类型错误。
这种类型的错误表示生成缓冲区中太多消息,因此在达到偏移清除超时前都无法清除它们。
如果您要获得这类错误,请尝试以下配置更改:
-
减少
producer.buffer.memory
的默认值 -
将默认值(以毫秒为单位)增加
offset.flush.timeout.ms
更改应有助于将未完成的消息的底层 Kafka Connect 队列保持为可管理的大小。您可能需要调整值,使其具有所需的效果。
如果这些配置更改没有解决错误,您可以尝试通过执行以下操作来增加并行运行的任务数量:
-
使用 MirrorMaker 2.0 配置中的
tasks.max 属性(
connect-mirror-maker.properties
)增加任务数量 - 为运行任务的 worker 增加节点数
处理大量消息的 MirrorMaker 2.0 配置示例