红帽全球峰会第 7 章 在 Kafka Connect 中使用 AMQ Streams
使用 Kafka Connect 在 Kafka 和外部系统间流数据。Kafka Connect 提供了一个用于移动大量数据的框架，同时保持可扩展性和可靠性。Kafka Connect 通常用于将 Kafka 与数据库、存储和消息系统集成到您的 Kafka 集群外。
Kafka Connect 使用连接器插件来实现不同类型的外部系统的连接。连接器插件有两种：sink 和 source。sink 连接器数据从 Kafka 流传输到外部系统。源连接器数据从外部系统流传输到 Kafka。
Kafka Connect 可以在独立或分布式模式下运行。
- 独立模式
- 在独立模式中，Kafka Connect 在带有用户定义的配置的单个节点上运行，从属性文件读取。
- 分布式模式
- 在分布式模式下，Kafka Connect 在一个或多个 worker 节点上运行，且工作负载在它们间分布。您可以使用 HTTP REST 接口管理连接器及其配置。
处理大量消息
您可以调优配置来处理大量消息。更多信息请参阅 第 9 章 处理大量消息。
7.1. 独立模式的 Kafka 连接
在独立模式中，Kafka Connect 会作为一个进程在单一节点上运行。您可以使用属性文件管理单机模式的配置。
7.1.1. 在独立模式下配置 Kafka 连接
要在独立模式下配置 Kafka Connect，请编辑 config/connect-standalone.properties 配置文件。以下选项是最重要的。
bootstrap.servers-
Kafka 代理地址列表，用作到 Kafka 的 bootstrap 连接。例如，
kafka0.my-domain.com:9092,kafka1.my-domain.com:9092,kafka2.my-domain.com:9092。 key.converter-
用于将消息密钥转换为 Kafka 格式的类。例如，
org.apache.kafka.connect.json.JsonConverter. value.converter-
用于将消息有效负载转换为 Kafka 格式的类。例如，
org.apache.kafka.connect.json.JsonConverter. offset.storage.file.filename- 指定存储偏移数据的文件。
连接器插件使用 bootstrap 地址打开到 Kafka 代理的客户端连接。要配置这些连接，请使用以 producer. 或 consumer. 为前缀的标准 Kafka producer 和使用者配置选项。
7.1.2. 在 Kafka 连接中配置连接器
您可以使用属性文件在独立模式下为 Kafka 连接配置连接器插件。大多数配置选项都特定于每个连接器。以下选项适用于所有连接器：
name- 连接器的名称，该名称在当前 Kafka Connect 实例中必须是唯一的。
connector.class-
连接器插件类。For example,
org.apache.kafka.connect.file.FileStreamSinkConnector. tasks.max- 指定连接器可以使用的最大任务数量。通过任务，可以并行执行连接器。连接器可以创建比指定少的任务。
key.converter-
用于将消息密钥转换为 Kafka 格式的类。这会覆盖由 Kafka Connect 配置设置的默认值。例如，
org.apache.kafka.connect.json.JsonConverter. value.converter-
用于将消息有效负载转换为 Kafka 格式的类。这会覆盖由 Kafka Connect 配置设置的默认值。例如，
org.apache.kafka.connect.json.JsonConverter.
另外，您必须为接收器连接器至少设置以下选项之一：
topics- 用作输入的以逗号分隔的主题列表。
topics.regex- 用作输入的主题的 Java 正则表达式。
有关所有其他选项，请查看相关文档。
AMQ Streams 包括示例连接器配置文件 - 请参阅 AMQ Streams 安装目录中的 config/connect-file-sink.properties 和 config/connect-file-source.properties。
7.1.3. 在独立模式下运行 Kafka 连接
这个步骤描述了如何在独立模式下配置并运行 Kafka 连接。
先决条件
- AMQ Streams 已安装，一个 Kafka 集群正在运行。
流程
编辑
/opt/kafka/config/connect-standalone.propertiesKafka 连接配置文件，并将bootstrap.server设置为指向您的 Kafka 代理。例如：bootstrap.servers=kafka0.my-domain.com:9092,kafka1.my-domain.com:9092,kafka2.my-domain.com:9092
bootstrap.servers=kafka0.my-domain.com:9092,kafka1.my-domain.com:9092,kafka2.my-domain.com:9092Copy to Clipboard Copied! Toggle word wrap Toggle overflow 使用配置文件启动 Kafka Connect，并指定一个或多个连接器配置。
su - kafka /opt/kafka/bin/connect-standalone.sh /opt/kafka/config/connect-standalone.properties connector1.properties [connector2.properties ...]
su - kafka /opt/kafka/bin/connect-standalone.sh /opt/kafka/config/connect-standalone.properties connector1.properties [connector2.properties ...]Copy to Clipboard Copied! Toggle word wrap Toggle overflow 验证 Kafka Connect 是否正在运行。
jcmd | grep ConnectStandalone
jcmd | grep ConnectStandaloneCopy to Clipboard Copied! Toggle word wrap Toggle overflow
'%20d='M201.5%20305.5c-13.8%200-24.9-11.1-24.9-24.6%200-13.8%2011.1-24.9%2024.9-24.9%2013.6%200%2024.6%2011.1%2024.6%2024.9%200%2013.6-11.1%2024.6-24.6%2024.6zM504%20256c0%20137-111%20248-248%20248S8%20393%208%20256%20119%208%20256%208s248%20111%20248%20248zm-132.3-41.2c-9.4%200-17.7%203.9-23.8%2010-22.4-15.5-52.6-25.5-86.1-26.6l17.4-78.3%2055.4%2012.5c0%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.3%2024.9-24.9s-11.1-24.9-24.9-24.9c-9.7%200-18%205.8-22.1%2013.8l-61.2-13.6c-3-.8-6.1%201.4-6.9%204.4l-19.1%2086.4c-33.2%201.4-63.1%2011.3-85.5%2026.8-6.1-6.4-14.7-10.2-24.1-10.2-34.9%200-46.3%2046.9-14.4%2062.8-1.1%205-1.7%2010.2-1.7%2015.5%200%2052.6%2059.2%2095.2%20132%2095.2%2073.1%200%20132.3-42.6%20132.3-95.2%200-5.3-.6-10.8-1.9-15.8%2031.3-16%2019.8-62.5-14.9-62.5zM302.8%20331c-18.2%2018.2-76.1%2017.9-93.6%200-2.2-2.2-6.1-2.2-8.3%200-2.5%202.5-2.5%206.4%200%208.6%2022.8%2022.8%2087.3%2022.8%20110.2%200%202.5-2.2%202.5-6.1%200-8.6-2.2-2.2-6.1-2.2-8.3%200zm7.7-75c-13.6%200-24.6%2011.1-24.6%2024.9%200%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.1%2024.9-24.6%200-13.8-11-24.9-24.9-24.9z'/%3e%3c/svg%3e){kind=small}