第 18 章 使用性能配置集调整托管的 control plane 以实现低延迟

流程

1. 运行以下命令导出管理集群 kubeconfig 文件：

   $ export MGMT_KUBECONFIG=<path_to_mgmt_kubeconfig>

2. 运行以下命令，列出所有命名空间中的所有节点池：

   $ oc --kubeconfig="$MGMT_KUBECONFIG" get np -A

   输出示例

   NAMESPACE   NAME                     CLUSTER       DESIRED NODES   CURRENT NODES   AUTOSCALING   AUTOREPAIR   VERSION   UPDATINGVERSION   UPDATINGCONFIG   MESSAGE
   clusters    democluster-us-east-1a   democluster   1               1               False         False        4.17.0    False             True

   • 输出显示了定义 NodePool 资源的管理集群中的命名空间集群。
   • NodePool 资源的名称，如 democluster-us-east-1a。
   • 此 NodePool 所属的 HostedCluster。例如，democluster。

3. 在受管集群中，运行以下命令来列出可用的 secret：

   $ oc get secrets -n clusters

   输出示例

   NAME                              TYPE                      DATA   AGE
   builder-dockercfg-25qpp           kubernetes.io/dockercfg   1      128m
   default-dockercfg-mkvlz           kubernetes.io/dockercfg   1      128m
   democluster-admin-kubeconfig      Opaque                    1      127m
   democluster-etcd-encryption-key   Opaque                    1      128m
   democluster-kubeadmin-password    Opaque                    1      126m
   democluster-pull-secret           Opaque                    1      128m
   deployer-dockercfg-8lfpd          kubernetes.io/dockercfg   1      128m

4. 运行以下命令，提取托管集群的 kubeconfig 文件：

   $ oc get secret <secret_name> -n <cluster_namespace> -o jsonpath='{.data.kubeconfig}' | base64 -d > hosted-cluster-kubeconfig

   Example

   $ oc get secret democluster-admin-kubeconfig -n clusters -o jsonpath='{.data.kubeconfig}' | base64 -d > hosted-cluster-kubeconfig

5. 要为托管集群创建 must-gather 捆绑包，请打开终端窗口并运行以下命令：

   1. 导出托管的集群 kubeconfig 文件：

      $ export HC_KUBECONFIG=<path_to_hosted_cluster_kubeconfig>

      Example

      $ export HC_KUBECONFIG=~/hostedcpkube/hosted-cluster-kubeconfig

   2. 进入存储 must-gather 数据的目录。

   3. 为托管集群收集故障排除数据：

      $ oc --kubeconfig="$HC_KUBECONFIG" adm must-gather

   4. 从工作目录中刚刚创建的 must-gather 目录创建一个压缩文件。例如，在使用 Linux 操作系统的计算机上运行以下命令：

      $ tar -czvf must-gather.tar.gz must-gather.local.1203869488012141147

流程

1. 在托管的集群中，运行以下命令使用 Podman 向 registry.redhat.io 进行身份验证：

   $ podman login registry.redhat.io

   Username: <user_name>
   Password: <password>

2. 运行以下命令，在托管集群上创建性能配置集。这个示例使用示例 PPC 参数和值：

   $ podman run --entrypoint performance-profile-creator \
       -v /path/to/must-gather:/must-gather:z \

   1

   
       registry.redhat.io/openshift4/ose-cluster-node-tuning-rhel9-operator:v4.19 \
       --must-gather-dir-path /must-gather \
       --reserved-cpu-count=2 \

   2

   
       --rt-kernel=false \

   3

   
       --split-reserved-cpus-across-numa=false \ 

   4

   
       --topology-manager-policy=single-numa-node \

   5

   
       --node-pool-name=democluster-us-east-1a \
       --power-consumption-mode=ultra-low-latency \

   6

   
       --offlined-cpu-count=1 \

   7

   
       > my-hosted-cp-performance-profile.yaml

   1

   将创建 oc adm must-gather 的输出的本地目录挂载到容器中。

   2

   指定两个保留的 CPU。

   3

   禁用实时内核。

   4

   禁用跨 NUMA 节点的保留 CPU 分割。

   5

   指定 NUMA 拓扑策略。如果安装 NUMA Resources Operator，则必须将其设置为 single-numa-node。

   6

   以增加功耗的成本指定最小延迟。

   7

   指定一个离线 CPU。

   输出示例

   level=info msg="Nodes names targeted by democluster-us-east-1a pool are: ip-10-0-129-110.ec2.internal "
   level=info msg="NUMA cell(s): 1"
   level=info msg="NUMA cell 0 : [0 2 1 3]"
   level=info msg="CPU(s): 4"
   level=info msg="2 reserved CPUs allocated: 0,2 "
   level=info msg="1 isolated CPUs allocated: 1"
   level=info msg="Additional Kernel Args based on configuration: []

3. 运行以下命令，查看创建的 YAML 文件：

   $ cat my-hosted-cp-performance-profile

   输出示例

   ---
   apiVersion: v1
   data:
     tuning: |
       apiVersion: performance.openshift.io/v2
       kind: PerformanceProfile
       metadata:
         creationTimestamp: null
         name: performance
       spec:
         cpu:
           isolated: "1"
           offlined: "3"
           reserved: 0,2
         net:
           userLevelNetworking: false
         nodeSelector:
           node-role.kubernetes.io/worker: ""
         numa:
           topologyPolicy: single-numa-node
         realTimeKernel:
           enabled: false
         workloadHints:
           highPowerConsumption: true
           perPodPowerManagement: false
           realTime: true
       status: {}
   kind: ConfigMap
   metadata:
     name: performance
     namespace: clusters

流程

1. 运行以下命令导出管理集群 kubeconfig 文件：

   $ export MGMT_KUBECONFIG=<path_to_mgmt_kubeconfig>

2. 运行以下命令，在管理集群中创建 ConfigMap 对象：

   $ oc --kubeconfig="$MGMT_KUBECONFIG" apply -f my-hosted-cp-performance-profile.yaml

3. 运行以下命令，编辑 clusters 命名空间中的 NodePool 对象，添加 spec.tuningConfig 字段和在该字段中创建性能配置集的名称：

   $ oc edit np -n clusters

   apiVersion: hypershift.openshift.io/v1beta1
   kind: NodePool
   metadata:
     annotations:
       hypershift.openshift.io/nodePoolCurrentConfig: 2f752a2c
       hypershift.openshift.io/nodePoolCurrentConfigVersion: 998aa3ce
       hypershift.openshift.io/nodePoolPlatformMachineTemplate: democluster-us-east-1a-3dff55ec
     creationTimestamp: "2025-04-09T09:41:55Z"
     finalizers:
     - hypershift.openshift.io/finalizer
     generation: 1
     labels:
       hypershift.openshift.io/auto-created-for-infra: democluster
     name: democluster-us-east-1a
     namespace: clusters
     ownerReferences:
     - apiVersion: hypershift.openshift.io/v1beta1
       kind: HostedCluster
       name: democluster
       uid: af77e390-c289-433c-9d29-3aee8e5dc76f
     resourceVersion: "53056"
     uid: 11efa47c-5a7b-476c-85cf-a274f748a868
   spec:
     tuningConfig:
     - name: performance
     arch: amd64
     clusterName: democluster
     management:

   注意

   您可以在多个节点池中引用同一配置集。在托管的 control plane 中，Node Tuning Operator 会将节点池名称和命名空间的哈希值附加到 Tuned 自定义资源的名称中，以区分它们。进行更改后，系统会检测到需要配置更改，并启动该池中节点的滚动更新以应用新配置。

验证

1. 运行以下命令，列出所有命名空间中的所有节点池：

   $ oc --kubeconfig="$MGMT_KUBECONFIG" get np -A

   输出示例

   NAMESPACE   NAME                     CLUSTER       DESIRED NODES   CURRENT NODES   AUTOSCALING   AUTOREPAIR   VERSION   UPDATINGVERSION   UPDATINGCONFIG   MESSAGE
   clusters    democluster-us-east-1a   democluster   1               1               False         False        4.17.0    False             True

   注意

   UPDATINGCONFIG 字段指示节点池是否在更新其配置过程中。在更新过程中，节点池状态中的 UPDATINGCONFIG 字段将变为 True。只有在 UPDATINGCONFIG 字段返回到 False 时，新配置才会被视为完全应用。

2. 运行以下命令，列出 clusters-democluster 命名空间中的所有配置映射：

   $ oc --kubeconfig="$MGMT_KUBECONFIG" get cm -n clusters-democluster

   输出示例

   NAME                                                 DATA   AGE
   aggregator-client-ca                                 1      69m
   auth-config                                          1      68m
   aws-cloud-config                                     1      68m
   aws-ebs-csi-driver-trusted-ca-bundle                 1      66m
   ...                                                  1      67m
   kubelet-client-ca                                    1      69m
   kubeletconfig-performance-democluster-us-east-1a     1      22m
   ...
   ovnkube-identity-cm                                  2      66m
   performance-democluster-us-east-1a                   1      22m
   ...
   tuned-performance-democluster-us-east-1a             1      22m

   输出显示 kubeletconfig kubeletconfig-performance-democluster-us-east-1a 和性能配置集 performance-democluster-us-east-1a。Node Tuning Operator 将 Tuned 对象同步到托管的集群中。您可以验证定义了哪些 Tuned 对象，以及将哪些配置集应用到每个节点。

3. 运行以下命令，列出管理集群中的可用 secret：

   $ oc get secrets -n clusters

   输出示例

   NAME                              TYPE                      DATA   AGE
   builder-dockercfg-25qpp           kubernetes.io/dockercfg   1      128m
   default-dockercfg-mkvlz           kubernetes.io/dockercfg   1      128m
   democluster-admin-kubeconfig      Opaque                    1      127m
   democluster-etcd-encryption-key   Opaque                    1      128m
   democluster-kubeadmin-password    Opaque                    1      126m
   democluster-pull-secret           Opaque                    1      128m
   deployer-dockercfg-8lfpd          kubernetes.io/dockercfg   1      128m

4. 运行以下命令，提取托管集群的 kubeconfig 文件：

   $ oc get secret <secret_name> -n clusters -o jsonpath='{.data.kubeconfig}' | base64 -d > hosted-cluster-kubeconfig

   Example

   $ oc get secret democluster-admin-kubeconfig -n clusters -o jsonpath='{.data.kubeconfig}' | base64 -d > hosted-cluster-kubeconfig

5. 运行以下命令导出托管集群 kubeconfig ：

   $ export HC_KUBECONFIG=<path_to_hosted-cluster-kubeconfig>

6. 运行以下命令，验证 kubeletconfig 是否在托管集群中镜像：

   $ oc --kubeconfig="$HC_KUBECONFIG" get cm -n openshift-config-managed | grep kubelet

   输出示例

   kubelet-serving-ca                            			1   79m
   kubeletconfig-performance-democluster-us-east-1a		1   15m

7. 运行以下命令，验证在托管集群中是否设置了 single-numa-node 策略：

   $ oc --kubeconfig="$HC_KUBECONFIG" get cm kubeletconfig-performance-democluster-us-east-1a -o yaml -n openshift-config-managed | grep single

   输出示例

       topologyManagerPolicy: single-numa-node