第 4 章 查看更改事件

流程

1. 打开一个新终端，并使用 kafka-console-consumer 来使用主题开头的 dbserver1.inventory.customers 主题。

   此命令在运行 Kafka 的 Pod 中运行一个简单的消费者(kafka-console-consumer.sh) (my-cluster-kafka-0)：

   $ oc exec -it my-cluster-kafka-0 -- /opt/kafka/bin/kafka-console-consumer.sh \
     --bootstrap-server localhost:9092 \
     --from-beginning \
     --property print.key=true \
     --topic dbserver1.inventory.customers

   消费者返回四个消息（采用 JSON 格式），每行一个在 customer 表中。每个消息都包含对应表行的事件记录。

   每个事件有两个 JSON 文档：一个 key 和一个 value。键对应于行的主键，值显示行的详细信息（行包含的字段、每个字段的值以及行上执行的操作类型）。

2. 对于最后一个事件，请查看 密钥 的详细信息。

   以下是最后一次事件 的密钥 的详细信息（用于可读性的格式）：

   {
     "schema":{
       "type":"struct",
         "fields":[
           {
             "type":"int32",
             "optional":false,
             "field":"id"
           }
         ],
       "optional":false,
       "name":"dbserver1.inventory.customers.Key"
     },
     "payload":{
       "id":1004
     }
   }

   事件有两个部分： schema 和一个 payload。模式 包含一个 Kafka Connect 模式，描述有效负载中的内容。在这种情况下，有效负载是名为 dbserver1.inventory.customers.Key 的 struct，它是可选的，且有一个必填字段（类型为 int32 的 id ）。

   payload 是一个单一的 id 字段，它的值为 1004。

   通过查看事件的 key，您可以看到此事件应用到 inventory.customers 表中的 id 主键栏的值为 1004 的行。

3. 检查同一事件 值。

   事件 的值 显示创建了行，并描述了它所包含的内容（本例中为 id、first_name、last_name，以及插入行 的电子邮件 ）。

   以下是最后一次事件 的值 详情（用于可读性）：

   {
     "schema": {
       "type": "struct",
       "fields": [
         {
           "type": "struct",
           "fields": [
             {
               "type": "int32",
               "optional": false,
               "field": "id"
             },
             {
               "type": "string",
               "optional": false,
               "field": "first_name"
             },
             {
               "type": "string",
               "optional": false,
               "field": "last_name"
             },
             {
               "type": "string",
               "optional": false,
               "field": "email"
             }
           ],
           "optional": true,
           "name": "dbserver1.inventory.customers.Value",
           "field": "before"
         },
         {
           "type": "struct",
           "fields": [
             {
               "type": "int32",
               "optional": false,
               "field": "id"
             },
             {
               "type": "string",
               "optional": false,
               "field": "first_name"
             },
             {
               "type": "string",
               "optional": false,
               "field": "last_name"
             },
             {
               "type": "string",
               "optional": false,
               "field": "email"
             }
           ],
           "optional": true,
           "name": "dbserver1.inventory.customers.Value",
           "field": "after"
         },
         {
           "type": "struct",
           "fields": [
             {
               "type": "string",
               "optional": true,
               "field": "version"
             },
             {
               "type": "string",
               "optional": false,
               "field": "name"
             },
             {
               "type": "int64",
               "optional": false,
               "field": "server_id"
             },
             {
               "type": "int64",
               "optional": false,
               "field": "ts_sec"
             },
             {
               "type": "string",
               "optional": true,
               "field": "gtid"
             },
             {
               "type": "string",
               "optional": false,
               "field": "file"
             },
             {
               "type": "int64",
               "optional": false,
               "field": "pos"
             },
             {
               "type": "int32",
               "optional": false,
               "field": "row"
             },
             {
               "type": "boolean",
               "optional": true,
               "field": "snapshot"
             },
             {
               "type": "int64",
               "optional": true,
               "field": "thread"
             },
             {
               "type": "string",
               "optional": true,
               "field": "db"
             },
             {
               "type": "string",
               "optional": true,
               "field": "table"
             }
           ],
           "optional": false,
           "name": "io.debezium.connector.mysql.Source",
           "field": "source"
         },
         {
           "type": "string",
           "optional": false,
           "field": "op"
         },
         {
           "type": "int64",
           "optional": true,
           "field": "ts_ms"
         }
       ],
       "optional": false,
       "name": "dbserver1.inventory.customers.Envelope",
       "version": 1
     },
     "payload": {
       "before": null,
       "after": {
         "id": 1004,
         "first_name": "Anne",
         "last_name": "Kretchmar",
         "email": "annek@noanswer.org"
       },
       "source": {
         "version": "2.5.4.Final",
         "name": "dbserver1",
         "server_id": 0,
         "ts_sec": 0,
         "gtid": null,
         "file": "mysql-bin.000003",
         "pos": 154,
         "row": 0,
         "snapshot": true,
         "thread": null,
         "db": "inventory",
         "table": "customers"
       },
       "op": "r",
       "ts_ms": 1486500577691
     }
   }

   此部分事件的时间较长，但与事件 的密钥 一样，它也具有 schema 和 payload。schema 包括了一个 Kafka Connect 方案，称为 dbserver1.inventory.customers.Envelope (version 1)，它可以包括五个字段：

   op

   包含描述操作类型的字符串值的必填字段。MySQL 连接器的值是 c 用于创建（或插入）、u 表示更新，d 表示删除，r 表示读取（快照时为 r）。

   before

   可选字段（如果存在）包含事件 发生前 行的状态。该结构由 dbserver1.inventory.customers.Value Kafka Connect 模式描述，其 dbserver1 连接器用于 inventory.customers 表中的所有行。

   after

   可选字段（如果存在）包含事件发生 后 行的状态。该结构与之前使用的 dbserver1.inventory.customers.Value Kafka Connect schema 相同。

   source

   包含用于描述事件源元数据的结构的必填字段（如果是 MySQL ），其中包含几个字段：连接器名称、记录事件和表的 binlog 文件的名称，该 binlog 文件中出现事件的位置，事件中的行（如果有多个是一）、受影响的数据库和表的名称， 进行更改的 MySQL 线程 ID （此事件是快照的一部分），以及 MySQL 服务器 ID 以及时间戳（以秒为单位）。

   ts_ms

   可选的字段（如果存在），其中包含运行 Kafka Connect 任务的 JVM 中的系统时钟（使用连接器处理事件）。

   注意

   事件的 JSON 表示比它们描述的行要长。这是因为，对于每个事件键和值，Kafka Connect 都会包括描述 有效负载的 schema。随着时间的推移，此结构可能会改变。但是，在事件本身中有键和值的架构可以更轻松地使用应用程序了解消息，特别是随着时间推移而变化。

   Debezium MySQL 连接器基于数据库表的结构构建这些模式。如果您使用 DDL 语句更改 MySQL 数据库中的表定义，连接器会读取这些 DDL 语句并更新其 Kafka Connect 模式。这是每个事件的结构与事件源自于该表的唯一方式。但是，包含单个表的所有事件的 Kafka 主题可能具有与表定义的每个状态对应的事件。

   JSON 转换程序在每个消息中包含 key 和 value 模式，因此它会生成非常详细的事件。

4. 将事件的 key 和 value 方案与 inventory 数据库的状态进行比较。在运行 MySQL 命令行客户端的终端中，运行以下语句：

   mysql> SELECT * FROM customers;
   +------+------------+-----------+-----------------------+
   | id   | first_name | last_name | email                 |
   +------+------------+-----------+-----------------------+
   | 1001 | Sally      | Thomas    | sally.thomas@acme.com |
   | 1002 | George     | Bailey    | gbailey@foobar.com    |
   | 1003 | Edward     | Walker    | ed@walker.com         |
   | 1004 | Anne       | Kretchmar | annek@noanswer.org    |
   +------+------------+-----------+-----------------------+
   4 rows in set (0.00 sec)

   这表明您检查的事件记录与数据库中的记录匹配。