第 47 章 Kafka Batch Source
通过 Plain Login Module 批量接收 Kafka 主题的数据,并通过 KafkaManualCommit 手动提交它们。
47.1. 配置选项 复制链接链接已复制到粘贴板!
下表总结了 kafka-batch-source Kamelet 可用的选项:
| 属性 | 名称 | 描述 | 类型 | 默认 | 示例 |
|---|---|---|---|---|---|
| bootstrapServers * | bootstrap 服务器 | 以逗号分隔的 Kafka Broker URL 列表 | 字符串 | ||
| password * | 密码 | 在 kafka 中验证的密码 | 字符串 | ||
| topic * | 主题名称 | 以逗号分隔的 Kafka 主题名称列表 | 字符串 | ||
| User * | 用户名 | 为 Kafka 验证的用户名 | 字符串 | ||
| allowManualCommit | 允许手动提交 | 是否允许进行手动提交 | 布尔值 | False | |
| autoCommitEnable | 自动提交启用 | 如果为 true,请定期提交到 ZooKeeper,以偏移已由消费者获取的信息 | 布尔值 | True | |
| autoOffsetReset | 自动偏移重置 | 没有初始偏移时该怎么办。有 3 个 enums,值可以是 latest、earliest、none 之一 | 字符串 | latest | |
| batchSize | 批量 Dimension | 在单个调用中返回的最大记录数() | 整数 | 500 | |
| batchingIntervalMs | 批处理间隔 | 在消费者批处理模式中,此选项在 millis 中指定时间,以便在当前批处理大小未达到 maxPollRecords 定义的最大值时触发批处理完成 eager。请注意,触发器在给定间隔上不是准确的,因为这只能在 kafka 轮询之间发生(请参阅 pollTimeoutMs 选项)。 | 整数 | ||
| consumerGroup | 消费者组 | 唯一标识此源所属消费者组的字符串 | 字符串 | my-group-id | |
| deserializeHeaders | 自动序列化标头 | 启用 Kamelet 源时,会将所有消息标头反序列化为 String 表示。 | 布尔值 | True | |
| maxPollIntervalMs | 最大 Poll Interval | 使用消费者组管理时调用 poll ()的最大延迟。 | 整数 | ||
| pollOnError | 轮询错误行为 |
如果在轮询新消息时 kafka 延迟一个异常,则应该做什么。有 5 个枚举,值可以是 | 字符串 | ERROR_HANDLER | |
| pollTimeout | 轮询超时间隔 | 轮询 KafkaConsumer 时使用的超时 | 整数 | 5000 | |
| saslMechanism | SASL 机制 | 使用简单身份验证和安全层(SASL)机制。 | 字符串 | PLAIN | |
| securityProtocol | 安全协议 | 用于与代理通信的协议。支持 SASL_PLAINTEXT、PLAINTEXT、SASL_SSL 和 SSL | 字符串 | SASL_SSL | |
| topicIsPattern | 主题模式 | 主题是否为模式(正则表达式)。这可用于订阅与模式匹配的主题数量。 | 布尔值 | False |
* = 标记为星号的字段 是必需的。