4.5. Debezium MongoDB コネクターのデプロイ

手順

1. Kafka Connect の Debezium MongoDB コンテナーを作成します。

   1. Debezium MongoDB コネクターアーカイブ をダウンロードします。

   2. Debezium MongoDB コネクターアーカイブを展開して、コネクタープラグインのディレクトリー構造を作成します。以下に例を示します。

      ./my-plugins/
      ├── debezium-connector-mongodb
      │   ├── ...

      Copy to Clipboard Toggle word wrap

   3. registry.redhat.io/amq7/amq-streams-kafka-28-rhel8:1.8.0 をベースイメージとして使用する Docker ファイルを作成します。たとえば、ターミナルウィンドウに以下のコマンドを入力します。my -plugins はプラグインディレクトリーの名前に置き換えます。

      cat <<EOF >debezium-container-for-mongodb.yaml 

      1

      
      FROM registry.redhat.io/amq7/amq-streams-kafka-28-rhel8:1.8.0
      USER root:root
      COPY ./<my-plugins>/ /opt/kafka/plugins/ 

      2

      
      USER 1001
      EOF

      Copy to Clipboard Toggle word wrap

      1 1 1 1 1 1 1

      任意のファイル名を指定できます。

      2 2 2 2 2 2 2

      my-plugins は、プラグインディレクトリーの名前に置き換えます。

      このコマンドは、現在のディレクトリーに debezium-container-for-mongodb.yaml という名前の Docker ファイルを作成します。

   4. 前の手順で作成した debezium-container-for-mongodb.yaml Docker ファイルからコンテナーイメージをビルドします。ファイルを含むディレクトリーから、ターミナルウィンドウを開き、以下のコマンドのいずれかを入力します。

      podman build -t debezium-container-for-mongodb:latest .

      Copy to Clipboard Toggle word wrap

      docker build -t debezium-container-for-mongodb:latest .

      Copy to Clipboard Toggle word wrap

      上記のコマンドは、debezium-container-for-mongodb という名前のコンテナーイメージを構築します。

   5. カスタムイメージを quay.io または内部コンテナーレジストリーなどのコンテナーレジストリーにプッシュします。コンテナーレジストリーは、イメージをデプロイする OpenShift インスタンスで利用できる必要があります。以下のいずれかのコマンドを実行します。

      podman push <myregistry.io>/debezium-container-for-mongodb:latest

      Copy to Clipboard Toggle word wrap

      docker push <myregistry.io>/debezium-container-for-mongodb:latest

      Copy to Clipboard Toggle word wrap

   6. 新しい Debezium MongoDB KafkaConnect カスタムリソース(CR)を作成します。たとえば、以下の例のように アノテーション およびイメージ プロパティーを指定する dbz-connect.yaml という名前の KafkaConnect CR を作成します。

      apiVersion: kafka.strimzi.io/v1beta2
      kind: KafkaConnect
      metadata:
        name: my-connect-cluster
        annotations:
          strimzi.io/use-connector-resources: "true" 

      1

      
      spec:
        #...
        image: debezium-container-for-mongodb  

      2

      Copy to Clipboard Toggle word wrap

      1

      metadata.annotations は、KafkaConnectors リソースがこの Kafka Connect クラスターでコネクター を設定するために使用される ことを Cluster Operator に示します。

      2

      spec.image は、Debezium コネクターを実行するために作成したイメージの名前を指定します。このプロパティーは、Cluster Operator の STRIMZI_DEFAULT_KAFKA_CONNECT_IMAGE 変数を上書きします。

   7. 以下のコマンドを入力して、KafkaConnect CR を OpenShift Kafka Connect 環境に適用します。

      oc create -f dbz-connect.yaml

      Copy to Clipboard Toggle word wrap

      このコマンドは、Debezium コネクターを実行するために作成したイメージの名前を指定する Kafka Connect インスタンスを追加します。

2. Debezium MongoDB コネクターインスタンスを設定する KafkaConnector カスタムリソースを作成します。

   コネクターの設定プロパティーを指定する a .yaml ファイルで Debezium MongoDB コネクターを設定します。コネクター設定は、Debezium に対して MongoDB レプリカセットまたはシャードクラスターのサブセットの変更イベントを生成するよう指示することがあります。任意で、不要なコレクションをフィルタリングするプロパティーを設定できます。

   以下の例では、MongoDB レプリカセット rs0 を 192.168.99.100 のポート 27017 に接続し、インベントリー コレクションで生じる変更をキャプチャーする Debezium コネクターを設定します。完全な入力は、レプリカセットの論理名です。

   MongoDB inventory-connector.yaml

   apiVersion: kafka.strimzi.io/v1beta2
     kind: KafkaConnector
     metadata:
       name: inventory-connector 

   1

   
       labels: strimzi.io/cluster: my-connect-cluster
     spec:
       class: io.debezium.connector.mongodb.MongoDbConnector 

   2

   
       config:
        mongodb.hosts: rs0/192.168.99.100:27017 

   3

   
        mongodb.name: fulfillment 

   4

   
        collection.include.list: inventory[.]* 

   5

   Copy to Clipboard Toggle word wrap

   1

   コネクターを Kafka Connect に登録するために使用される名前。

   2

   MongoDB コネクタークラスの名前。

   3

   MongoDB レプリカセットへの接続に使用するホストアドレス。

   4

   生成されたイベントの namespace を形成する MongoDB レプリカセットの論理名。コネクターが書き込む Kafka トピックの名前、Kafka Connect スキーマ名、および Arvo コンバーターが使用される場合に対応する Avro スキーマの namespace のすべてに使用されます。

   5

   監視するすべてのコレクションのコレクション namespace (例: <dbName>.<collectionName>) と一致する正規表現のオプションリスト。

3. Kafka Connect でコネクターインスタンスを作成します。たとえば、KafkaConnector リソースを inventory-connector.yaml ファイルに保存した場合、以下のコマンドを実行します。

   oc apply -f inventory-connector.yaml

   Copy to Clipboard Toggle word wrap

   上記のコマンドは inventory-connector を登録し、コネクターは KafkaConnector CR に定義されている インベントリー コレクションに対して実行を開始します。

4. コネクターが作成され、起動されたことを確認します。

   1. Kafka Connect ログ出力を表示して、コネクターが作成され、指定データベースの変更のキャプチャーが開始されたことを確認します。

      oc logs $(oc get pods -o name -l strimzi.io/cluster=my-connect-cluster)

      Copy to Clipboard Toggle word wrap

   2. ログの出力を確認し、Debezium が初回のスナップショットを実行することを確認します。ログには、以下のメッセージと同様の出力が表示されます。

      ... INFO Starting snapshot for ...
      ... INFO Snapshot is using user 'debezium' ...

      Copy to Clipboard Toggle word wrap

      コネクターがエラーがなく正常に起動すると、コネクターが変更をキャプチャーする各コレクションのトピックが作成されます。前述の例の CR の場合、collection. include.list プロパティーに指定されたコレクションの トピックがあります。ダウンストリームアプリケーションは、コネクターによって作成されるトピックをサブスクライブできます。

   3. 以下のコマンドを実行して、コネクターによってトピックが作成されたことを検証します。

      oc get kafkatopics

      Copy to Clipboard Toggle word wrap