2.8. 配置 pod 调度
当两个应用调度到同一 OpenShift 节点时,两个应用都可能使用相同的资源,如磁盘 I/O 和影响性能。这可能会导致性能下降。以避免与其他关键工作负载共享节点的方式调度 Kafka pod,使用正确的节点或专用节点只适用于 Kafka 避免此类问题的最佳方法。
2.8.1. 指定关联性、容限和拓扑分布限制 复制链接链接已复制到粘贴板!
使用关联性、容限和拓扑分布约束,将 kafka 资源的 pod 调度到节点上。关联性、容限和拓扑分布约束可使用以下资源中的 关联性、toleration 和 topologySpreadConstraint 属性进行配置:
-
Kafka.spec.kafka.template.pod -
Kafka.spec.zookeeper.template.pod -
Kafka.spec.entityOperator.template.pod -
KafkaConnect.spec.template.pod -
KafkaBridge.spec.template.pod -
KafkaMirrorMaker.spec.template.pod -
KafkaMirrorMaker2.spec.template.pod
关联性、tolerations 和 topologySpreadConstraint 属性的格式遵循 OpenShift 规格。关联性配置可以包含不同类型的关联性:
- Pod 关联性和反关联性
- 节点关联性
2.8.1.1. 使用 pod 反关联性以避免关键应用程序共享节点 复制链接链接已复制到粘贴板!
使用 pod 反关联性来确保关键应用程序永远不会调度到同一磁盘上。在运行 Kafka 集群时,建议使用 pod 反关联性来确保 Kafka 代理不与其他工作负载(如数据库)共享节点。
2.8.1.2. 使用节点关联性将工作负载调度到特定的节点上 复制链接链接已复制到粘贴板!
OpenShift 集群通常由许多不同类型的工作程序节点组成。有些工作负载针对 CPU 重度工作负载进行了优化,而有些用于内存,而其他则针对存储(快速本地 SSD)或网络进行了优化。使用不同节点有助于优化成本和性能。要实现最佳的性能,允许调度 AMQ Streams 组件以使用正确的节点非常重要。
OpenShift 使用节点关联性将工作负载调度到特定的节点上。节点关联性允许您为 pod 调度到的节点创建调度约束。约束指定为标签选择器。您可以使用内置的节点标签(如 beta.kubernetes.io/instance-type 或自定义标签)来指定标签,以选择正确的节点。
2.8.1.3. 对专用节点使用节点关联性和容限 复制链接链接已复制到粘贴板!
使用污点来创建专用节点,然后通过配置节点关联性和容忍度来将 Kafka pod 调度到专用节点上。
集群管理员可以将所选 OpenShift 节点标记为污点。具有污点的节点不包括在常规调度中,一般 pod 不会被调度到它们上运行。只有可以容许节点上污点设置的服务才能调度到该节点上。此类节点上运行的其他服务是唯一是日志收集器或软件定义的网络等系统服务。
在专用节点上运行 Kafka 及其组件会有很多优点。没有其他应用程序在同一个节点上运行,这可能会导致干扰或消耗 Kafka 所需的资源。从而提高了性能和稳定性。
2.8.2. 配置 pod 反关联性来将每个 Kafka 代理调度到不同的 worker 节点上 复制链接链接已复制到粘贴板!
许多 Kafka 代理或 ZooKeeper 节点可以在同一 OpenShift worker 节点上运行。如果 worker 节点失败,它们会同时不可用。要提高可靠性,您可以使用 podAntiAffinity 配置在不同的 OpenShift worker 节点上调度每个 Kafka 代理或 ZooKeeper 节点。
先决条件
- 一个 OpenShift 集群
- 正在运行的 Cluster Operator
流程
编辑指定集群部署的资源中的
affinity属性。要确保 Kafka 代理或 ZooKeeper 节点没有共享 worker 节点,请使用strimzi.io/name标签。将topologyKey设置为kubernetes.io/hostname,以指定所选 pod 没有调度到具有相同主机名的节点。这仍然允许单个 Kafka 代理和单个 ZooKeeper 节点共享相同的 worker 节点。例如:apiVersion: kafka.strimzi.io/v1beta2 kind: Kafka spec: kafka: # ... template: pod: affinity: podAntiAffinity: requiredDuringSchedulingIgnoredDuringExecution: - labelSelector: matchExpressions: - key: strimzi.io/name operator: In values: - CLUSTER-NAME-kafka topologyKey: "kubernetes.io/hostname" # ... zookeeper: # ... template: pod: affinity: podAntiAffinity: requiredDuringSchedulingIgnoredDuringExecution: - labelSelector: matchExpressions: - key: strimzi.io/name operator: In values: - CLUSTER-NAME-zookeeper topologyKey: "kubernetes.io/hostname" # ...其中
CLUSTER-NAME是 Kafka 自定义资源的名称。如果您甚至要确保 Kafka 代理和 ZooKeeper 节点没有共享相同的 worker 节点,请使用
strimzi.io/cluster标签。例如:apiVersion: kafka.strimzi.io/v1beta2 kind: Kafka spec: kafka: # ... template: pod: affinity: podAntiAffinity: requiredDuringSchedulingIgnoredDuringExecution: - labelSelector: matchExpressions: - key: strimzi.io/cluster operator: In values: - CLUSTER-NAME topologyKey: "kubernetes.io/hostname" # ... zookeeper: # ... template: pod: affinity: podAntiAffinity: requiredDuringSchedulingIgnoredDuringExecution: - labelSelector: matchExpressions: - key: strimzi.io/cluster operator: In values: - CLUSTER-NAME topologyKey: "kubernetes.io/hostname" # ...其中
CLUSTER-NAME是 Kafka 自定义资源的名称。创建或更新资源。
oc apply -f <kafka_configuration_file>
2.8.3. 在 Kafka 组件中配置 pod 反关联性 复制链接链接已复制到粘贴板!
Pod 反关联性配置可帮助 Kafka 代理的稳定性和性能。通过使用 podAntiAffinity,OpenShift 不会将 Kafka 代理调度到与其他工作负载相同的节点上。通常,您要避免 Kafka 在与其他网络或存储密集型应用程序(如数据库、存储或其他消息传递平台)相同的 worker 节点上运行。
先决条件
- 一个 OpenShift 集群
- 正在运行的 Cluster Operator
流程
编辑指定集群部署的资源中的
affinity属性。使用标签指定不应调度到同一节点上的 pod。topologyKey应设置为kubernetes.io/hostname,以指定不应将所选 pod 调度到具有相同主机名的节点。例如:apiVersion: kafka.strimzi.io/v1beta2 kind: Kafka spec: kafka: # ... template: pod: affinity: podAntiAffinity: requiredDuringSchedulingIgnoredDuringExecution: - labelSelector: matchExpressions: - key: application operator: In values: - postgresql - mongodb topologyKey: "kubernetes.io/hostname" # ... zookeeper: # ...创建或更新资源。
这可以通过
oc apply完成:oc apply -f <kafka_configuration_file>
2.8.4. 在 Kafka 组件中配置节点关联性 复制链接链接已复制到粘贴板!
先决条件
- 一个 OpenShift 集群
- 正在运行的 Cluster Operator
流程
标记应调度 AMQ Streams 组件的节点。
这可以通过
oc label:oc label node NAME-OF-NODE node-type=fast-network或者,可能会重复使用一些现有标签。
编辑指定集群部署的资源中的
affinity属性。例如:apiVersion: kafka.strimzi.io/v1beta2 kind: Kafka spec: kafka: # ... template: pod: affinity: nodeAffinity: requiredDuringSchedulingIgnoredDuringExecution: nodeSelectorTerms: - matchExpressions: - key: node-type operator: In values: - fast-network # ... zookeeper: # ...创建或更新资源。
这可以通过
oc apply完成:oc apply -f <kafka_configuration_file>
2.8.5. 设置专用节点并在节点上调度 pod 复制链接链接已复制到粘贴板!
先决条件
- 一个 OpenShift 集群
- 正在运行的 Cluster Operator
流程
- 选择应用作专用节点。
- 确保这些节点上没有调度任何工作负载。
在所选节点上设置污点:
这可以通过
oc adm taint来实现:oc adm taint node NAME-OF-NODE dedicated=Kafka:NoSchedule另外,为所选节点添加标签。
这可以通过
oc label:oc label node NAME-OF-NODE dedicated=Kafka编辑指定集群部署的资源中的
关联性和容限属性。例如:
apiVersion: kafka.strimzi.io/v1beta2 kind: Kafka spec: kafka: # ... template: pod: tolerations: - key: "dedicated" operator: "Equal" value: "Kafka" effect: "NoSchedule" affinity: nodeAffinity: requiredDuringSchedulingIgnoredDuringExecution: nodeSelectorTerms: - matchExpressions: - key: dedicated operator: In values: - Kafka # ... zookeeper: # ...创建或更新资源。
这可以通过
oc apply完成:oc apply -f <kafka_configuration_file>