11.6. MirrorMaker 2 を専用モードで実行する
MirrorMaker 2 を使用して、設定を通じて Kafka クラスター間でデータを同期します。この手順では、専用の単一ノード MirrorMaker 2 クラスターを設定して実行する方法を示します。専用クラスターは、Kafka Connect ワーカーノードを使用して、Kafka クラスター間でデータをミラーリングします。
MirrorMaker 2 を分散モードで実行することも可能です。MirrorMaker 2 は、専用モードと分散モードの両方でコネクターとして動作します。専用の MirrorMaker クラスターを実行する場合、コネクターは Kafka Connect クラスターで設定されます。結果として、Kafka Connect クラスターへの直接アクセス、追加のコネクターの実行、および REST API の使用が可能になります。詳細は、Apache Kafka のドキュメント を参照してください。
設定では以下を指定する必要があります。
- 各 Kafka クラスター
- TLS 認証を含む各クラスターの接続情報
レプリケーションのフローおよび方向
- クラスターからクラスターへ
- トピックからトピックへ
- レプリケーションルール
- コミットされたオフセット追跡間隔
この手順では、プロパティーファイルに設定を作成し、MirrorMaker スクリプトファイルを使用して接続を設定するときにプロパティーを渡すことによって MirrorMaker 2 を実装する方法を説明します。
ソースクラスターからレプリケーションするトピックおよびコンシューマーグループを指定できます。ソースおよびターゲットクラスターの名前を指定し、レプリケーションするトピックとコンシューマーグループを指定します。
以下の例では、クラスター 1 から 2 のレプリケーションに、トピックとコンシューマーグループが指定されます。
特定のトピックおよびコンシューマーグループをレプリケーションする設定例
clusters=cluster-1,cluster-2
cluster-1->cluster-2.topics = topic-1, topic-2
cluster-1->cluster-2.groups = group-1, group-2
名前のリストを指定したり、正規表現を使用したりできます。デフォルトでは、これらのプロパティーを設定しないと、すべてのトピックおよびコンシューマーグループがレプリケーションされます。.* を正規表現として使用し、すべてのトピックおよびコンシューマーグループをレプリケーションすることもできます。ただし、クラスターに不要な負荷が余分にかかるのを避けるため、必要なトピックとコンシューマーグループのみを指定するようにしてください。
作業を始める前に
設定プロパティーファイルの例は ./config/connect-mirror-maker.properties にあります。
前提条件
- Streams for Apache Kafka が 各ホストにインストールされており、設定ファイルが使用可能である。
手順
テキストエディターでサンプルプロパティーファイルを開くか、新しいプロパティーファイルを作成し、ファイルを編集して接続情報と各 Kafka クラスターのレプリケーションフローを追加します。
以下の例は、cluster-1 および cluster-2 の 2 つのクラスターを双方向に接続する設定を示しています。クラスター名は、
clustersプロパティーで設定できます。MirrorMaker 2 の設定例
clusters=cluster-1,cluster-21 cluster-1.bootstrap.servers=<cluster_name>-kafka-bootstrap-<project_name_one>:4432 cluster-1.security.protocol=SSL3 cluster-1.ssl.truststore.password=<truststore_name> cluster-1.ssl.truststore.location=<path_to_truststore>/truststore.cluster-1.jks_ cluster-1.ssl.keystore.password=<keystore_name> cluster-1.ssl.keystore.location=<path_to_keystore>/user.cluster-1.p12 cluster-2.bootstrap.servers=<cluster_name>-kafka-bootstrap-<project_name_two>:4434 cluster-2.security.protocol=SSL5 cluster-2.ssl.truststore.password=<truststore_name> cluster-2.ssl.truststore.location=<path_to_truststore>/truststore.cluster-2.jks_ cluster-2.ssl.keystore.password=<keystore_name> cluster-2.ssl.keystore.location=<path_to_keystore>/user.cluster-2.p12 cluster-1->cluster-2.enabled=true6 cluster-2->cluster-1.enabled=true7 cluster-1->cluster-2.topics=.*8 cluster-2->cluster-1.topics=topic-1, topic-29 cluster-1->cluster-2.groups=.*10 cluster-2->cluster-1.groups=group-1, group-211 replication.policy.separator=-12 sync.topic.acls.enabled=false13 refresh.topics.interval.seconds=6014 refresh.groups.interval.seconds=6015 - 1
- 各 Kafka クラスターは、そのエイリアスで識別されます。
- 2
- ブートストラップアドレス およびポート 443 を使用した、cluster-1 の接続情報。両方のクラスターはポート 443 を使用し、OpenShift Routes を使用して Kafka に接続します。
- 3
ssl.プロパティーは、cluster-1 の TLS 設定を定義します。- 4
- cluster-2 の接続情報です。
- 5
ssl.プロパティーは、cluster-2 の TLS 設定を定義します。- 6
- cluster-1 から cluster-2 へのレプリケーションフローが有効になっています。
- 7
- cluster-2 から cluster-1. へのレプリケーションフローが有効になっています。
- 8
- cluster-1 から cluster-2 へのすべてのトピックのレプリケーションです。ソースコネクターは指定のトピックをレプリケーションします。チェックポイントコネクターは、指定されたトピックのオフセットを追跡します。
- 9
- cluster-2 から cluster-1 への特定のトピックのレプリケーション。
- 10
- cluster-1 から cluster-2 へのすべてのコンシューマーグループのレプリケーション。チェックポイントコネクターは、指定されたコンシューマーグループをレプリケーションします。
- 11
- cluster-2 から cluster-1 への特定のコンシューマーグループのレプリケーション。
- 12
- リモートトピック名の変更に使用する区切り文字を定義します。
- 13
- 有効にすると、同期されたトピックに ACL が適用されます。デフォルトは
falseです。 - 14
- 新しいトピックの同期をチェックする間隔です。
- 15
- 新しいコンシューマーグループの同期をチェックする間隔です。
オプション: 必要に応じて、リモートトピックの名前の自動変更をオーバーライドするポリシーを追加します。その名前の前にソースクラスターの名前を追加する代わりに、トピックが元の名前を保持します。
このオプションの設定は、active/passive バックアップおよびデータ移行に使用されます。
replication.policy.class=org.apache.kafka.connect.mirror.IdentityReplicationPolicyオプション: コンシューマーグループのオフセットを同期する場合は、設定を追加して同期を有効にし、管理します。
refresh.groups.interval.seconds=60 sync.group.offsets.enabled=true1 sync.group.offsets.interval.seconds=602 emit.checkpoints.interval.seconds=603 ターゲットクラスターで Kafka を起動します。
./bin/kafka-server-start.sh -daemon \ ./config/kraft/server.propertiesプロパティーファイルで定義したクラスター接続設定およびレプリケーションポリシーで MirrorMaker を起動します。
./bin/connect-mirror-maker.sh \ ./config/connect-mirror-maker.propertiesMirrorMaker はクラスター間の接続を設定します。
ターゲットクラスターごとに、トピックがレプリケーションされていることを確認します。
./bin/kafka-topics.sh --bootstrap-server <broker_host>:<port> --list