7.13. 더 높은 VM 워크로드 밀도 구성

프로세스

1. 다음 명령을 입력하여 권한 있는 서비스 계정을 생성합니다.

   $ oc adm new-project wasp

   $ oc create sa -n wasp wasp

   $ oc adm policy add-cluster-role-to-user cluster-admin -n wasp -z wasp

   $ oc adm policy add-scc-to-user -n wasp privileged -z wasp

   참고

   wasp-agent 구성 요소는 OCI 후크를 배포하여 노드 수준에서 컨테이너의 스왑 사용을 활성화합니다. 낮은 수준의 특성을 사용하려면 DaemonSet 오브젝트에 권한을 부여해야 합니다.

2. deploy wasp-agent:

   1. 다음과 같이 DaemonSet 오브젝트를 생성합니다.

      apiVersion: machineconfiguration.openshift.io/v1
      kind: DaemonSet
      apiVersion: apps/v1
      metadata:
        name: wasp-agent
        namespace: wasp
        labels:
          app: wasp
          tier: node
      spec:
        selector:
          matchLabels:
            name: wasp
        template:
          metadata:
            annotations:
              description: >-
                Configures swap for workloads
            labels:
                name: wasp
          spec:
            serviceAccountName: wasp
            hostPID: true
            hostUsers: true
            terminationGracePeriodSeconds: 5
            containers:
              - name: wasp-agent
                image: >-
                  registry.redhat.io/container-native-virtualization/wasp-agent-rhel9:latest
                imagePullPolicy: Always
                env:
                - name: "FSROOT"
                  value: "/host"
                resources:
                  requests:
                    cpu: 100m
                    memory: 50M
                securityContext:
                  privileged: true
                volumeMounts:
                - name: host
                  mountPath: "/host"
            volumes:
            - name: host
              hostPath:
                path: "/"
            priorityClassName: system-node-critical
        updateStrategy:
          type: RollingUpdate
          rollingUpdate:
            maxUnavailable: 10%
            maxSurge: 0
      status: {}

   2. RH 포털에서 최신 URL을 가져오고 생성된 DaemonSet 오브젝트에 URL을 입력합니다.

3. 스왑을 허용하도록 kubelet 서비스를 구성합니다.

   1. 예제에 표시된 대로 KubeletConfiguration 파일을 생성합니다.

      KubeletConfiguration 파일 예

      apiVersion: machineconfiguration.openshift.io/v1
      kind: KubeletConfig
      metadata:
        name: custom-config
      spec:
        machineConfigPoolSelector:
          matchLabels:
            pools.operator.machineconfiguration.openshift.io/worker: ''  # MCP
            #machine.openshift.io/cluster-api-machine-role: worker # machine
            #node-role.kubernetes.io/worker: '' # node
        kubeletConfig:
          failSwapOn: false
          evictionSoft:
            memory.available: "1Gi"
          evictionSoftGracePeriod:
            memory.available: "10s"

      클러스터가 기존 KubeletConfiguration 파일을 이미 사용하고 있는 경우 spec 섹션에 다음을 추가합니다.

      apiVersion: machineconfiguration.openshift.io/v1
      kind: KubeletConfig
      metadata:
        name: custom-config
      # ...
      spec
      # ...
          kubeletConfig:
            evictionSoft:
              memory.available: 1Gi
            evictionSoftGracePeriod:
              memory.available: 1m30s
            failSwapOn: false

   2. 다음 명령을 실행합니다.

      $ oc wait mcp worker --for condition=Updated=True

4. 다음과 같이 MachineConfig 오브젝트를 생성하여 스왑을 프로비저닝합니다.

   apiVersion: machineconfiguration.openshift.io/v1
   kind: MachineConfig
   metadata:
     labels:
       machineconfiguration.openshift.io/role: worker
     name: 90-worker-swap
   spec:
     config:
       ignition:
         version: 3.4.0
       systemd:
         units:
         - contents: |
             [Unit]
             Description=Provision and enable swap
             ConditionFirstBoot=no
   
             [Service]
             Type=oneshot
             Environment=SWAP_SIZE_MB=5000
             ExecStart=/bin/sh -c "sudo dd if=/dev/zero of=/var/tmp/swapfile count=$SWAP_SIZE_MB bs=1MiB && sudo chmod 600 /var/tmp/swapfile && sudo mkswap /var/tmp/swapfile && sudo swapon /var/tmp/swapfile && free -h"
   
             [Install]
             RequiredBy=kubelet-dependencies.target
           enabled: true
           name: swap-provision.service

   best-case 시나리오를 위한 스왑 공간이 충분한 경우 오버 커밋된 RAM으로 프로비저닝된 스왑 공간이 있는지 확인하십시오. 다음 공식을 사용하여 노드에서 프로비저닝할 스왑 공간의 양을 계산합니다.

   NODE_SWAP_SPACE = NODE_RAM * (MEMORY_OVER_COMMIT_PERCENT / 100% - 1)

   예제:

   NODE_SWAP_SPACE = 16 GB * (150% / 100% - 1)
                   = 16 GB * (1.5 - 1)
                   = 16 GB * (0.5)
                   =  8 GB

5. 다음과 같이 경고 규칙을 배포합니다.

   apiVersion: monitoring.openshift.io/v1
   kind: AlertingRule
   metadata:
     name: wasp-alerts
     namespace: openshift-monitoring
   spec:
     groups:
     - name: wasp.rules
       rules:
       - alert: NodeSwapping
         annotations:
           description: Node {{ $labels.instance }} is swapping at a rate of {{ printf "%.2f" $value }} MB/s
           runbook_url: https://github.com/openshift-virtualization/wasp-agent/tree/main/runbooks/alerts/NodeSwapping.md
           summary: A node is swapping memory pages
         expr: |
           # In MB/s
           irate(node_memory_SwapFree_bytes{job="node-exporter"}[5m]) / 1024^2 > 0
         for: 1m
         labels:
           severity: critical

6. 다음 예와 같이 OpenShift Container Platform 웹 콘솔을 사용하거나 HyperConverged CR(사용자 정의 리소스) 파일을 편집하여 메모리 과다 할당을 사용하도록 OpenShift Virtualization을 구성합니다.

   예제:

   apiVersion: hco.kubevirt.io/v1beta1
   kind: HyperConverged
   metadata:
     name: kubevirt-hyperconverged
     namespace: openshift-cnv
   spec:
     higherWorkloadDensity:
       memoryOvercommitPercentage: 150

7. 다음 명령을 입력하여 클러스터의 컴퓨팅 노드에 모든 구성을 적용합니다.

   $ oc patch --type=merge \
     -f <../manifests/hco-set-memory-overcommit.yaml> \
     --patch-file <../manifests/hco-set-memory-overcommit.yaml>

   참고

   모든 구성을 적용한 후에는 모든 MachineConfigPool 롤아웃이 완료된 후에만 스왑 기능을 완전히 사용할 수 있습니다.

검증

1. wasp-agent 의 배포를 확인하려면 다음 명령을 실행합니다.

   $  oc rollout status ds wasp-agent -n wasp

   배포에 성공하면 다음 메시지가 표시됩니다.

   daemon set "wasp-agent" successfully rolled out

2. 스왑이 올바르게 프로비저닝되었는지 확인하려면 다음을 수행하십시오.

   1. 다음 명령을 실행합니다.

      $ oc get nodes -l node-role.kubernetes.io/worker

   2. 제공된 목록에서 노드를 선택하고 다음 명령을 실행합니다.

      $ oc debug node/<selected-node> -- free -m

      스왑이 올바르게 프로비저닝되면 0보다 큰 양이 표시되고 다음과 유사합니다.

      Expand

      	합계	사용됨	무료	공유됨	buff/cache	사용 가능
      mEM:	31846	23155	1044	6014	14483	8690
      swap:	8191	2337	5854

      Show more

3. 다음 명령을 실행하여 OpenShift Virtualization 메모리 과다 할당 구성을 확인합니다.

   $ oc get -n openshift-cnv HyperConverged kubevirt-hyperconverged -o jsonpath="{.spec.higherWorkloadDensity.memoryOvercommitPercentage}"
   150

   반환된 값(예: 150 )은 이전에 구성한 값과 일치해야 합니다.