第8章 Cruise Control によるクラスターのリバランス

1. ラックアウェアネス (Rack Awareness)
2. トピックのセットに対するブローカーごとのリーダーレプリカの最小数
3. レプリカの容量
4. 容量: ディスク容量、ネットワークインバウンド容量、ネットワークアウトバウンド容量、CPU 容量
5. レプリカの分散
6. 潜在的なネットワーク出力

7. リソース分散: ディスク使用率の分散、ネットワークインバウンド使用率の分散、ネットワークアウトバウンド使用率の分散、CPU 使用率の分散。

   注記

   リソース分散ゴールは、ブローカーリソースで 容量制限 を使用して制御されます。

8. リーダーへの単位時間あたりバイト流入量の分散
9. トピックレプリカの分散
10. リーダーレプリカの分散
11. 優先リーダーの選択

手順

1. Kafka リソースを編集し、cruiseControl プロパティーを追加します。

   設定可能なプロパティーは以下の例のとおりです。

   apiVersion: kafka.strimzi.io/v1beta2
   kind: Kafka
   metadata:
     name: my-cluster
   spec:
     # ...
     cruiseControl:
       brokerCapacity: 

   1

   
         inboundNetwork: 10000KB/s
         outboundNetwork: 10000KB/s
         # ...
       config: 

   2

   
         default.goals: >
            com.linkedin.kafka.cruisecontrol.analyzer.goals.RackAwareGoal,
            com.linkedin.kafka.cruisecontrol.analyzer.goals.ReplicaCapacityGoal
            # ...
         cpu.balance.threshold: 1.1
         metadata.max.age.ms: 300000
         send.buffer.bytes: 131072
         # ...
       resources: 

   3

   
         requests:
           cpu: 1
           memory: 512Mi
         limits:
           cpu: 2
           memory: 2Gi
       logging: 

   4

   
           type: inline
           loggers:
             rootLogger.level: "INFO"
       template: 

   5

   
         pod:
           metadata:
             labels:
               label1: value1
           securityContext:
             runAsUser: 1000001
             fsGroup: 0
           terminationGracePeriodSeconds: 120
       readinessProbe: 

   6

   
         initialDelaySeconds: 15
         timeoutSeconds: 5
       livenessProbe: 

   7

   
         initialDelaySeconds: 15
         timeoutSeconds: 5
   # ...

   Copy to Clipboard Toggle word wrap

   1

   ブローカーリソースの容量制限を指定します。詳細は、容量の設定 を参照してください。

   2

   Cruise Control 設定を定義します。これには、デフォルトの最適化ゴール (default.goals で設定) が含まれ、マスター最適化ゴール (goals で設定) またはハードゴール (hard.goals で設定) へのカスタマイズも含まれまもす。AMQ Streams によって直接管理されるものを除き、標準の Cruise Cntrol 設定オプション をすべて提供できます。最適化ゴールの設定に関する詳細は、「最適化ゴールの概要」 を参照してください。

   3

   Cruise Control によって予約された CPU およびメモリーリソース。詳細は、「resources」 を参照してください。

   4

   ConfigMap より直接的 (inline) または間接的 (external) に追加されたロガーおよびログレベルを定義します。カスタム ConfigMap は、log4j.properties キー下に配置する必要があります。Cruise Control には rootLogger.level という名前の単一のロガーがあります。ログレベルは INFO、ERROR、WARN、TRACE、DEBUG、FATAL、または OFF に設定できます。詳細は、「ロギングの設定」を参照してください。

   5

   デプロイメントテンプレートおよび Pod のカスタマイズ。

   6

   ヘルスチェックの readiness プローブ。

   7

   ヘルスチェックの liveness プローブ。

2. リソースを作成または更新します。

   oc apply -f kafka.yaml

   Copy to Clipboard Toggle word wrap

3. Cruise Control が正常にデプロイされたことを確認します。

   oc get deployments -l app.kubernetes.io/name=cruise-control

   Copy to Clipboard Toggle word wrap

手順

1. KafkaRebalance リソースを作成します。

   1. Kafka リソースに定義された デフォルトの最適化ゴール を使用するには、spec プロパティーを空のままにします。

      apiVersion: kafka.strimzi.io/v1beta2
      kind: KafkaRebalance
      metadata:
        name: my-rebalance
        labels:
          strimzi.io/cluster: my-cluster
      spec: {}

      Copy to Clipboard Toggle word wrap

   2. デフォルトのゴールを使用する代わりに ユーザー定義の最適化ゴール を設定するには、goals プロパティーを追加し、1 つ以上のゴールを入力します。

      以下の例では、ラックアウェアネス (Rack Awareness) およびレプリカの容量はユーザー定義の最適化ゴールとして設定されています。

      apiVersion: kafka.strimzi.io/v1beta2
      kind: KafkaRebalance
      metadata:
        name: my-rebalance
        labels:
          strimzi.io/cluster: my-cluster
      spec:
        goals:
          - RackAwareGoal
          - ReplicaCapacityGoal

      Copy to Clipboard Toggle word wrap

   3. 設定済みのハードゴールを無視するには、skipHardGoalCheck: true プロパティーを追加します。

      apiVersion: kafka.strimzi.io/v1beta2
      kind: KafkaRebalance
      metadata:
        name: my-rebalance
        labels:
          strimzi.io/cluster: my-cluster
      spec:
        goals:
          - RackAwareGoal
          - ReplicaCapacityGoal
        skipHardGoalCheck: true

      Copy to Clipboard Toggle word wrap

2. リソースを作成または更新します。

   oc apply -f your-file

   Copy to Clipboard Toggle word wrap

   Cluster Operator は Cruise Control から最適化プロポーザルを要求します。Kafka クラスターのサイズによっては処理に数分かかることがあります。

3. KafkaRebalance リソースのステータスを確認します。

   oc describe kafkarebalance rebalance-cr-name

   Copy to Clipboard Toggle word wrap

   Cruise Control は以下の 2 つの状態の 1 つを返します。

   • PendingProposal: 最適化プロポーザルが準備できているかどうかを確認するために、リバランス operator が Cruise Control API をポーリングしています。
   • ProposalReady: 最適化プロポーザルを確認し、希望する場合は承認することができます。最適化プロポーザルは KafkaRebalance リソースの Status.Optimization Result プロパティーに含まれます。

4. 最適化プロポーザルを確認します。

   oc describe kafkarebalance rebalance-cr-name

   Copy to Clipboard Toggle word wrap

   以下はプロポーザルの例になります。

   Status:
     Conditions:
       Last Transition Time:  2020-05-19T13:50:12.533Z
       Status:                ProposalReady
       Type:                  State
     Observed Generation:     1
     Optimization Result:
       Data To Move MB:  0
       Excluded Brokers For Leadership:
       Excluded Brokers For Replica Move:
       Excluded Topics:
       Intra Broker Data To Move MB:         0
       Monitored Partitions Percentage:      100
       Num Intra Broker Replica Movements:   0
       Num Leader Movements:                 0
       Num Replica Movements:                26
       On Demand Balancedness Score After:   81.8666802863978
       On Demand Balancedness Score Before:  78.01176356230222
       Recent Windows:                       1
     Session Id:                             05539377-ca7b-45ef-b359-e13564f1458c

   Copy to Clipboard Toggle word wrap

   Optimization Result セクションのプロパティーには、保留クラスターリバランス操作の詳細が表示されます。各プロパティーの説明は、「最適化プロポーザルの内容」を参照してください。

1. 最適化プロポーザルが新規生成された場合を除き、プロポーザルが Kafka クラスターの状態に関する現在の情報を基にしていることを確認します。これには、最適化プロポーザルを更新し、必ず最新のクラスターメトリクスを使用するようにします。

   1. OpenShift で KafkaRebalance リソースに refresh アノテーションを付けます。

      oc annotate kafkarebalance rebalance-cr-name strimzi.io/rebalance=refresh

      Copy to Clipboard Toggle word wrap

   2. KafkaRebalance リソースのステータスを確認します。

      oc describe kafkarebalance rebalance-cr-name

      Copy to Clipboard Toggle word wrap
   3. 状態が ProposalReady に変わるまで待ちます。

2. Cruise Control が適用する最適化プロポーザルを承認します。

   OpenShift で KafkaRebalance リソースにアノテーションを付けます。

   oc annotate kafkarebalance rebalance-cr-name strimzi.io/rebalance=approve

   Copy to Clipboard Toggle word wrap
3. Cluster Operator は アノテーションが付けられたリソースを検出し、Cruise Control に Kafka クラスターのリバランスを指示します。

4. KafkaRebalance リソースのステータスを確認します。

   oc describe kafkarebalance rebalance-cr-name

   Copy to Clipboard Toggle word wrap

5. Cruise Control は以下の 3 つの状態の 1 つを返します。

   • Rebalaning: クラスターリバランス操作の実行中です。
   • Ready: クラスターリバランス操作が正常に完了しました。KafkaRebalance カスタムリソースは再利用できません。
   • NotReady: エラーが発生しました。「KafkaRebalance リソースの問題の修正」 を参照してください。

手順

1. OpenShift で KafkaRebalance リソースにアノテーションを付けます。

   oc annotate kafkarebalance rebalance-cr-name strimzi.io/rebalance=stop

   Copy to Clipboard Toggle word wrap

2. KafkaRebalance リソースのステータスを確認します。

   oc describe kafkarebalance rebalance-cr-name

   Copy to Clipboard Toggle word wrap
3. 状態が Stopped に変わるまで待ちます。

手順

1. KafkaRebalance の状態からエラーに関する情報を取得します。

   oc describe kafkarebalance rebalance-cr-name

   Copy to Clipboard Toggle word wrap
2. KafkaRebalance リソースで問題の解決を試みます。

3. OpenShift で KafkaRebalance リソースにアノテーションを付けます。

   oc annotate kafkarebalance rebalance-cr-name strimzi.io/rebalance=refresh

   Copy to Clipboard Toggle word wrap

4. KafkaRebalance リソースのステータスを確認します。

   oc describe kafkarebalance rebalance-cr-name

   Copy to Clipboard Toggle word wrap
5. 状態が PendingProposal から ProposalReady に変わるまで待ちます。