第 3 章 查看更改事件
部署 Debezium MySQL 连接器后,它开始捕获 inventory
数据库的更改。
当连接器启动时,它会将事件写入一组 Apache Kafka 主题,每个主题代表 MySQL 数据库中的一个表。每个主题的名称都以数据库服务器的名称 dbserver1
开头。
连接器写入以下 Kafka 主题:
dbserver1
- 应用于捕获更改的表的 DDL 语句的 schema 更改主题会被写入。
dbserver1.inventory.products
-
接收
inventory
数据库中products
表的更改事件记录。 dbserver1.inventory.products_on_hand
-
接收
inventory
数据库中products_on_hand
表的更改事件记录。 dbserver1.inventory.customers
-
接收
inventory
数据库中customer
表的更改事件记录。 dbserver1.inventory.orders
-
接收
inventory
数据库中orders
表的更改事件记录。
本教程的其余部分检查 dbserver1.inventory.customers
Kafka 主题。当您查看这个主题的更多信息,您会看到它如何代表不同类型的更改事件,并查找有关连接器捕获的每个事件的信息。
教程包含以下部分:
3.1. 查看 创建事件
通过查看 dbserver1.inventory.customers
主题,您可以看到 MySQL 连接器如何在 inventory
数据库中捕获 create 事件。在这种情况下,创建事件 捕获正在添加到数据库中的新客户。
流程
打开一个新终端,并使用
kafka-console-consumer
来使用主题开头的dbserver1.inventory.customers
主题。此命令在运行 Kafka 的 Pod 中运行一个简单的消费者(
kafka-console-consumer.sh
) (my-cluster-kafka-0
):$ oc exec -it my-cluster-kafka-0 -- /opt/kafka/bin/kafka-console-consumer.sh \ --bootstrap-server localhost:9092 \ --from-beginning \ --property print.key=true \ --topic dbserver1.inventory.customers
消费者返回四个消息(采用 JSON 格式),每行一个在 customer 表中。
每个消息都包含对应表行的事件记录。
每个事件有两个 JSON 文档:一个 key 和一个 value。键对应于行的主键,值显示行的详细信息(行包含的字段、每个字段的值以及行上执行的操作类型)。
对于最后一个事件,请查看 密钥 的详细信息。
以下是最后一次事件 的密钥 的详细信息(用于可读性的格式):
{ "schema":{ "type":"struct", "fields":[ { "type":"int32", "optional":false, "field":"id" } ], "optional":false, "name":"dbserver1.inventory.customers.Key" }, "payload":{ "id":1004 } }
事件有两个部分:
schema
和一个payload
。模式
包含一个 Kafka Connect 模式,描述有效负载中的内容。在这种情况下,有效负载是名为dbserver1.inventory.customers.Key
的struct
,它是可选的,且有一个必填字段(类型为int32
的id
)。payload
是一个单一的id
字段,它的值为1004
。通过查看事件的 key,您可以看到此事件应用到
inventory.customers
表中的id
主键栏的值为1004
的行。检查同一事件 值。
事件 的值 显示创建了行,并描述了它所包含的内容(本例中为
id
、first_name
、last_name
,以及插入行的电子邮件
)。以下是最后一次事件 的值 详情(用于可读性):
{ "schema": { "type": "struct", "fields": [ { "type": "struct", "fields": [ { "type": "int32", "optional": false, "field": "id" }, { "type": "string", "optional": false, "field": "first_name" }, { "type": "string", "optional": false, "field": "last_name" }, { "type": "string", "optional": false, "field": "email" } ], "optional": true, "name": "dbserver1.inventory.customers.Value", "field": "before" }, { "type": "struct", "fields": [ { "type": "int32", "optional": false, "field": "id" }, { "type": "string", "optional": false, "field": "first_name" }, { "type": "string", "optional": false, "field": "last_name" }, { "type": "string", "optional": false, "field": "email" } ], "optional": true, "name": "dbserver1.inventory.customers.Value", "field": "after" }, { "type": "struct", "fields": [ { "type": "string", "optional": true, "field": "version" }, { "type": "string", "optional": false, "field": "name" }, { "type": "int64", "optional": false, "field": "server_id" }, { "type": "int64", "optional": false, "field": "ts_sec" }, { "type": "string", "optional": true, "field": "gtid" }, { "type": "string", "optional": false, "field": "file" }, { "type": "int64", "optional": false, "field": "pos" }, { "type": "int32", "optional": false, "field": "row" }, { "type": "boolean", "optional": true, "field": "snapshot" }, { "type": "int64", "optional": true, "field": "thread" }, { "type": "string", "optional": true, "field": "db" }, { "type": "string", "optional": true, "field": "table" } ], "optional": false, "name": "io.debezium.connector.mysql.Source", "field": "source" }, { "type": "string", "optional": false, "field": "op" }, { "type": "int64", "optional": true, "field": "ts_ms" } ], "optional": false, "name": "dbserver1.inventory.customers.Envelope", "version": 1 }, "payload": { "before": null, "after": { "id": 1004, "first_name": "Anne", "last_name": "Kretchmar", "email": "annek@noanswer.org" }, "source": { "version": "2.3.4.Final", "name": "dbserver1", "server_id": 0, "ts_sec": 0, "gtid": null, "file": "mysql-bin.000003", "pos": 154, "row": 0, "snapshot": true, "thread": null, "db": "inventory", "table": "customers" }, "op": "r", "ts_ms": 1486500577691 } }
此部分事件的时间较长,但与事件 的密钥 一样,它也具有
schema
和payload
。schema
包括了一个 Kafka Connect 方案,称为dbserver1.inventory.customers.Envelope
(version 1),它可以包括五个字段:op
-
包含描述操作类型的字符串值的必填字段。MySQL 连接器的值是
c
用于创建(或插入)、u
表示更新,d
表示删除,r
表示读取(快照时为 r)。 before
-
可选字段(如果存在)包含事件 发生前 行的状态。该结构由
dbserver1.inventory.customers.Value
Kafka Connect 模式描述,其dbserver1
连接器用于inventory.customers
表中的所有行。 after
-
可选字段(如果存在)包含事件发生 后 行的状态。该结构与
之前
使用的dbserver1.inventory.customers.Value
Kafka Connect schema 相同。 source
-
包含用于描述事件源元数据的结构的必填字段(如果是 MySQL ),其中包含几个字段:连接器名称、记录事件和表的
binlog
文件的名称,该binlog
文件中出现事件的位置,事件中的行(如果有多个是一)、受影响的数据库和表的名称, 进行更改的 MySQL 线程 ID (此事件是快照的一部分),以及 MySQL 服务器 ID 以及时间戳(以秒为单位)。 ts_ms
- 可选的字段(如果存在),其中包含运行 Kafka Connect 任务的 JVM 中的系统时钟(使用连接器处理事件)。
注意事件的 JSON 表示比它们描述的行要长。这是因为,对于每个事件键和值,Kafka Connect 都会包括描述 有效负载的 schema。随着时间的推移,此结构可能会改变。但是,在事件本身中有键和值的架构可以更轻松地使用应用程序了解消息,特别是随着时间推移而变化。
Debezium MySQL 连接器基于数据库表的结构构建这些模式。如果您使用 DDL 语句更改 MySQL 数据库中的表定义,连接器会读取这些 DDL 语句并更新其 Kafka Connect 模式。这是每个事件的结构与事件源自于该表的唯一方式。但是,包含单个表的所有事件的 Kafka 主题可能具有与表定义的每个状态对应的事件。
JSON 转换程序在每个消息中包含 key 和 value 模式,因此它会生成非常详细的事件。
将事件的 key 和 value 方案与
inventory
数据库的状态进行比较。在运行 MySQL 命令行客户端的终端中,运行以下语句:mysql> SELECT * FROM customers; +------+------------+-----------+-----------------------+ | id | first_name | last_name | email | +------+------------+-----------+-----------------------+ | 1001 | Sally | Thomas | sally.thomas@acme.com | | 1002 | George | Bailey | gbailey@foobar.com | | 1003 | Edward | Walker | ed@walker.com | | 1004 | Anne | Kretchmar | annek@noanswer.org | +------+------------+-----------+-----------------------+ 4 rows in set (0.00 sec)
这表明您检查的事件记录与数据库中的记录匹配。