Debezium の RHEL へのインストール

前提条件

• ソースデータベースがデプロイされ、Debezium コネクターがデータベースにアクセスできます。

• コネクターがソースデータベースにアクセスするために必要な以下の情報を把握しています。

  • データベースホストの名前または IP アドレス。
  • データベースに接続するためのポート番号。
  • コネクターがデータベースへのサインインに使用できるアカウントの名前。
  • データベースユーザーアカウントのパスワード。
  • データベースの名前。
  • コネクターの情報の取得元であるテーブルの名前。
  • コネクターの変更イベントの出力先である Kafka ブローカーの名前。
  • コネクターのデータベース履歴情報の送信先である Kafka トピックの名前。

手順

• Debezium コネクターに適用する設定を JSON 形式で指定します。
  

  次の例は、Debezium MySQL コネクターの簡単な設定を示しています。

  {
    "name": "inventory-connector",  

  1

  
    "config": {
      "connector.class": "io.debezium.connector.mysql.MySqlConnector", 

  2

  
      "tasks.max": "1",  

  3

  
      "database.hostname": "mysql",  

  4

  
      "database.port": "3306", 

  5

  
      "database.user": "debezium", 

  6

  
      "database.password": "dbz", 

  7

  
      "database.server.id": "184054",  

  8

  
      "database.server.name": "dbserver1",
      "database.include.list": "public.inventory",  

  9

  
      "database.history.kafka.bootstrap.servers": "kafka:9092",  

  10

  
      "database.history.kafka.topic": "dbhistory.inventory"  

  11

  
    }
  }

  Copy to Clipboard

  1

  Kafka Connect クラスターに登録するコネクターの名前。

  2

  コネクタークラスの名前。

  3

  同時に動作できるタスクの数。一度に操作できるタスクは 1 つだけです。

  4

  ホストデータベースインスタンスのホスト名または IP アドレス。

  5

  データベースインスタンスのポート番号。

  6

  Debezium がデータベースに接続するユーザーアカウントの名前。

  7

  データベースユーザーアカウントのパスワード

  8

  一意なサーバー ID および名前。サーバー名は、Debezium がアクセスできるデータベースサーバーまたはサーバーのクラスターの論理識別子です。Debezium は、作成する各 Kafka トピックにこの名前を接頭辞として付けます。

  9

  コネクターが変更イベントをキャプチャーするテーブルの一覧。

  10

  コネクターがデータベーススキーマ履歴を送信する Kafka ブローカーの名前。指定されたブローカーは、コネクターが出力する変更イベントも受け取ります。

  11

  スキーマ履歴を格納する Kafka トピックの名前。
  コネクターの再起動後、コネクターは停止した時点からデータベースログの読み取りを再開し、オフライン中に発生したトランザクションのイベントを出力します。コネクターは、未読トランザクションの変更イベントを Kafka に書き込む前に、スキーマ履歴をチェックしてから、元のトランザクションが発生したときに有効だったスキーマを適用します。

関連情報

• コネクターのタイプごとに設定できる設定プロパティーの詳細は、Debezium User Guide のコネクターのデプロイメントドキュメントを参照してください。

前提条件

• Debezium のデプロイ先であるホスト環境は、サポートされている設定 で Red Hat Enterprise Linux、AMQ Streams、および Java を実行します。
  

  • AMQ Streams のインストール方法の詳細については、Installing AMQ Streams を参照してください。
  • 単一の ZooKeeper ノードおよび単一の Kafka ノードが含まれる実稼働ではない、基本的な AMQ Streams クラスターをインストールする方法の詳細は、Running a single node AMQ Streams cluster を参照してください。

• ホストの管理者権限 (sudo アクセス) があります。
• Apache ZooKeeper と Apache Kafka ブローカーが実行されています。
• Kafka Connect は、スタンドアロンモードではなく、分散モード で実行されています。
• AMQ Streams のインストール時に作成された kafka ユーザーの認証情報を把握しています。
• ソースデータベースがデプロイされ、Debezium をデプロイするホストがデータベースにアクセスできます。
• コネクターの設定方法 を理解しています。

関連情報

• コネクタープラグインの追加

前提条件

• 「Red Hat Enterprise Linux での AMQ Streams を使用した Debezium のデプロイ」 の手順に基づいて、Red Hat Enterprise Linux にコネクターをデプロイしています。手順

  1. ホストのターミナルウィンドウで、次のコマンドを入力して、Kafka Connect API からコネクターのリストを要求します。

     $ curl -H "Accept:application/json" localhost:8083/connectors/

     Copy to Clipboard

     クエリーは、デプロイされたコネクターの名前を返します。以下に例を示します。

     ["inventory-connector"]

     Copy to Clipboard

  2. ホストのターミナルウィンドウで次のコマンドを入力して、コネクターが実行しているタスクを表示します。

     $ curl -i -X GET -H "Accept:application/json" localhost:8083/connectors/inventory-connector

     Copy to Clipboard

     コマンドは、以下の例のような出力を返します。

     HTTP/1.1 200 OK
     Date: Thu, 06 Feb 2020 22:12:03 GMT
     Content-Type: application/json
     Content-Length: 531
     Server: Jetty(9.4.20.v20190813)
     
     {
       "name": "inventory-connector",
       ...
       "tasks": [
         {
           "connector": "inventory-connector",
           "task": 0
         }
       ]
     }

     Copy to Clipboard

  3. Kafka クラスター内のトピックのリストを表示します。
     ターミナルウィンドウから /opt/kafka/bin/ に移動し、以下のシェルスクリプトを実行します。

     kafka-topics.sh --bootstrap-server=localhost:9092 --list

     Copy to Clipboard

     Kafka ブローカーは、コネクターが作成するトピックのリストを返します。使用可能なトピックは、コネクターの snapshot.mode、snapshot.include.collection.list、および table.include.list の設定プロパティーの設定によって異なります。デフォルトでは、コネクターはデータベース内の非システムテーブルごとにトピックを作成します。

  4. トピックの内容を表示します。
     ターミナルウィンドウから /opt/kafka/bin/ に移動し、kafka-console-consumer.sh シェルスクリプトを実行して、前のコマンドで返されたトピックの 1 つの内容を表示します。
     

     以下に例を示します。

     kafka-console-consumer.sh \
     >     --bootstrap-server localhost:9092 \
     >     --from-beginning \
     >     --property print.key=true \
     >     --topic=inventory_connector_mysql.inventory.products_on_hand

     Copy to Clipboard

     トピックの各イベントについて、このコマンドは、以下の出力のような情報を返します。

     例2.1 統合変更イベントの内容

     {"schema":{"type":"struct","fields":[{"type":"int32","optional":false,"field":"product_id"}],"optional":false,"name":"inventory_connector_mysql.inventory.products_on_hand.Key"},"payload":{"product_id":101}}	{"schema":{"type":"struct","fields":[{"type":"struct","fields":[{"type":"int32","optional":false,"field":"product_id"},{"type":"int32","optional":false,"field":"quantity"}],"optional":true,"name":"inventory_connector_mysql.inventory.products_on_hand.Value","field":"before"},{"type":"struct","fields":[{"type":"int32","optional":false,"field":"product_id"},{"type":"int32","optional":false,"field":"quantity"}],"optional":true,"name":"inventory_connector_mysql.inventory.products_on_hand.Value","field":"after"},{"type":"struct","fields":[{"type":"string","optional":false,"field":"version"},{"type":"string","optional":false,"field":"connector"},{"type":"string","optional":false,"field":"name"},{"type":"int64","optional":false,"field":"ts_ms"},{"type":"string","optional":true,"name":"io.debezium.data.Enum","version":1,"parameters":{"allowed":"true,last,false"},"default":"false","field":"snapshot"},{"type":"string","optional":false,"field":"db"},{"type":"string","optional":true,"field":"sequence"},{"type":"string","optional":true,"field":"table"},{"type":"int64","optional":false,"field":"server_id"},{"type":"string","optional":true,"field":"gtid"},{"type":"string","optional":false,"field":"file"},{"type":"int64","optional":false,"field":"pos"},{"type":"int32","optional":false,"field":"row"},{"type":"int64","optional":true,"field":"thread"},{"type":"string","optional":true,"field":"query"}],"optional":false,"name":"io.debezium.connector.mysql.Source","field":"source"},{"type":"string","optional":false,"field":"op"},{"type":"int64","optional":true,"field":"ts_ms"},{"type":"struct","fields":[{"type":"string","optional":false,"field":"id"},{"type":"int64","optional":false,"field":"total_order"},{"type":"int64","optional":false,"field":"data_collection_order"}],"optional":true,"field":"transaction"}],"optional":false,"name":"inventory_connector_mysql.inventory.products_on_hand.Envelope"},"payload":{"before":null,"after":{"product_id":101,"quantity":3},"source":{"version":"1.9.5.Final-redhat-00001","connector":"mysql","name":"inventory_connector_mysql","ts_ms":1638985247805,"snapshot":"true","db":"inventory","sequence":null,"table":"products_on_hand","server_id":0,"gtid":null,"file":"mysql-bin.000003","pos":156,"row":0,"thread":null,"query":null},"op":"r","ts_ms":1638985247805,"transaction":null}}

     Copy to Clipboard

     上記の例では、payload 値は、コネクタースナップショットがテーブル inventory.products_on_hand から 読み込み (op" ="r") イベントを生成したことを示しています。product_id レコードの before 状態は null であり、レコードに以前の値が存在しないことを示します。"after" 状態が product_id 101 で項目の quantity を 3 で示しています。