12.4.2.7. 管理偏移策略
使用 auto.offset.reset
属性控制消费者在未提交偏移时的行为方式,或者不再有效或删除已提交的偏移。
假设您第一次部署使用者应用,并且它从现有主题读取消息。由于这是第一次使用 group.id
时,__consumer_offsets
主题不包含此应用的任何偏移信息。新应用可以从日志开始时开始处理所有现有消息,或者仅处理新消息。默认重置值为 latest
,它从分区末尾开始,因此表示丢失了一些消息。为避免数据丢失,但会增加处理量,请将 auto.offset.reset
设置为从分区 开始时开始
。
另请考虑使用 early 选项
避免在为代理配置的偏移保留周期(偏移.retention.分钟
)终止时丢失信息。如果消费者组或独立消费者不活跃,且在保留周期内未提交偏移,则之前提交的偏移会从 __consumer_offset 中删除
。
# ... heartbeat.interval.ms=3000 1 session.timeout.ms=10000 2 auto.offset.reset=earliest 3 # ...
如果单个获取请求中返回的数据量较大,则使用者处理数据之前可能会发生超时。在这种情况下,您可以降低 max.partition.fetch.bytes
或增加 session.timeout.ms
。