26.10. 在 Kafka consumer 中使用手动提交


默认情况下,Kafka 使用者将使用自动提交,其中偏移将使用给定间隔自动在后台提交。

如果要强制手动提交,您可以使用来自 Camel Exchange 的 KafkaManualCommit API,存储在消息标头中。这需要通过在 KafkaComponent 或端点上将 allowManualCommit 设置为 true 来打开手动提交,例如:

KafkaComponent kafka = new KafkaComponent();
kafka.setAllowManualCommit(true);
...
camelContext.addComponent("kafka", kafka);

然后,您可以使用来自 Java 代码的 KafkaManualCommit,如 Camel 处理器

public void process(Exchange exchange) {
    KafkaManualCommit manual =
        exchange.getIn().getHeader(KafkaConstants.MANUAL_COMMIT, KafkaManualCommit.class);
    manual.commit();
}

这将强制一个同步提交,它将阻断,直到提交在 Kafka 上确认,或者抛出异常。您还可以使用异步提交,通过"Default KafkaManualAsyncCommit factory"实施方式配置 KafkaManualCommit factory。

然后,提交将在下一个消费者循环中使用 kafka 异步提交 api。请注意,分区中的记录必须由唯一线程处理和提交。如果没有,这会导致没有一致的行为。这主要可用于聚合的完成超时策略。

如果要使用 KafkaManualCommit 的自定义实现,那么您可以在 KafkaComponent 上配置自定义 KafkaManualCommit factory,以创建自定义实现的实例。

Red Hat logoGithubRedditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.

關於紅帽

我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。

© 2024 Red Hat, Inc.