9.3. NUMA 인식 워크로드 예약
대기 시간에 민감한 워크로드를 실행하는 클러스터는 일반적으로 워크로드 대기 시간을 최소화하고 성능을 최적화하는 데 도움이 되는 성능 프로필을 제공합니다. NUMA 인식 스케줄러는 노드에 적용된 성능 프로필 설정과 관련하여 사용 가능한 노드 NUMA 리소스를 기반으로 워크로드를 배포합니다. NUMA 인식 배포와 워크로드의 성능 프로파일이 조합되면 성능을 극대화하는 방식으로 워크로드가 예약됩니다.
NUMA Resources Operator가 완전히 작동하려면 NUMAResourcesOperator
사용자 정의 리소스 및 NUMA 인식 보조 Pod 스케줄러를 배포해야 합니다.
9.3.1. NUMAResourcesOperator 사용자 정의 리소스 생성 링크 복사링크가 클립보드에 복사되었습니다!
NUMA Resources Operator를 설치한 경우 데몬 세트 및 API를 포함하여 NUMA 리소스 Operator
가 NUMA 인식 스케줄러를 지원하는 데 필요한 모든 클러스터 인프라를 설치하도록 지시하는 NUMAResourcesOperator CR(사용자 정의 리소스)을 생성합니다.
사전 요구 사항
-
OpenShift CLI(
oc
)를 설치합니다. -
cluster-admin
권한이 있는 사용자로 로그인합니다. - NUMA Resources Operator를 설치합니다.
프로세스
NUMAResourcesOperator
사용자 지정 리소스를 만듭니다.nrop.yaml
로 다음과 같은 최소한의 필수 YAML 파일 예제를 저장합니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- NUMA Resources Operator를 구성하려는
MachineConfigPool
과 일치해야 합니다. 예를 들어 통신 워크로드를 실행하는 데 예상되는 노드 집합을 지정하는worker-cnf
라는MachineConfigPool
을 생성할 수 있습니다.
다음 명령을 실행하여
NUMAResourcesOperator
CR을 만듭니다.oc create -f nrop.yaml
$ oc create -f nrop.yaml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 참고NUMAResourcesOperator
를 생성하면 해당 머신 구성 풀 및 영향을 받는 노드에서 재부팅이 트리거됩니다.
검증
다음 명령을 실행하여 NUMA Resources Operator가 성공적으로 배포되었는지 확인합니다.
oc get numaresourcesoperators.nodetopology.openshift.io
$ oc get numaresourcesoperators.nodetopology.openshift.io
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
NAME AGE numaresourcesoperator 27s
NAME AGE numaresourcesoperator 27s
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 몇 분 후에 다음 명령을 실행하여 필요한 리소스가 성공적으로 배포되었는지 확인합니다.
oc get all -n openshift-numaresources
$ oc get all -n openshift-numaresources
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
NAME READY STATUS RESTARTS AGE pod/numaresources-controller-manager-7d9d84c58d-qk2mr 1/1 Running 0 12m pod/numaresourcesoperator-worker-7d96r 2/2 Running 0 97s pod/numaresourcesoperator-worker-crsht 2/2 Running 0 97s pod/numaresourcesoperator-worker-jp9mw 2/2 Running 0 97s
NAME READY STATUS RESTARTS AGE pod/numaresources-controller-manager-7d9d84c58d-qk2mr 1/1 Running 0 12m pod/numaresourcesoperator-worker-7d96r 2/2 Running 0 97s pod/numaresourcesoperator-worker-crsht 2/2 Running 0 97s pod/numaresourcesoperator-worker-jp9mw 2/2 Running 0 97s
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
9.3.2. NUMA 인식 보조 Pod 스케줄러 배포 링크 복사링크가 클립보드에 복사되었습니다!
NUMA Resources Operator를 설치한 후 NUMA 인식 보조 Pod 스케줄러를 배포하여 성능 향상을 위해 Pod 배치를 최적화하고 NUMA 기반 시스템에서 대기 시간을 줄입니다.
프로세스
NUMA 인식 사용자 정의 Pod 스케줄러를 배포하는
NUMAResourcesScheduler
사용자 정의 리소스를 생성합니다.nro-scheduler.yaml
파일에 필요한 다음 최소 YAML을 저장합니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- 연결이 끊긴 환경에서 다음 작업 중 하나를 완료하여 이 이미지 확인을 구성해야 합니다.
-
ImageTagMirrorSet
사용자 정의 리소스(CR) 생성. 자세한 내용은 "추가 리소스" 섹션의 "이미지 레지스트리 저장소 미러링 구성"을 참조하십시오. - URL을 연결이 끊긴 레지스트리로 설정합니다.
-
다음 명령을 실행하여
NUMAResourcesScheduler
CR을 만듭니다.oc create -f nro-scheduler.yaml
$ oc create -f nro-scheduler.yaml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
몇 초 후에 다음 명령을 실행하여 필요한 리소스가 성공적으로 배포되었는지 확인합니다.
oc get all -n openshift-numaresources
$ oc get all -n openshift-numaresources
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
추가 리소스
9.3.3. 단일 NUMA 노드 정책 구성 링크 복사링크가 클립보드에 복사되었습니다!
NUMA Resources Operator는 클러스터에 단일 NUMA 노드 정책을 구성해야 합니다. 성능 프로필을 생성 및 적용하거나 KubeletConfig를 구성하면 두 가지 방법으로 이 작업을 수행할 수 있습니다.
단일 NUMA 노드 정책을 구성하는 기본 방법은 성능 프로필을 적용하는 것입니다. PPC(Performance Profile Creator) 툴을 사용하여 성능 프로필을 생성할 수 있습니다. 클러스터에서 성능 프로필이 생성되면 KubeletConfig
및 tuned
프로필과 같은 다른 튜닝 구성 요소가 자동으로 생성됩니다.
성능 프로필 생성에 대한 자세한 내용은 "추가 리소스" 섹션의 "성능 프로필 Creator 정보"를 참조하십시오.
추가 리소스
9.3.4. 성능 프로파일의 예 링크 복사링크가 클립보드에 복사되었습니다!
이 예제 YAML은 PPC(Performance profile creator) 툴을 사용하여 생성된 성능 프로필을 보여줍니다.
9.3.5. KubeletConfig CRD 생성 링크 복사링크가 클립보드에 복사되었습니다!
단일 NUMA 노드 정책을 구성하는 권장 방법은 성능 프로필을 적용하는 것입니다. 또 다른 방법은 다음 절차에 표시된 대로 KubeletConfig
CR(사용자 정의 리소스)을 생성하고 적용하는 것입니다.
프로세스
머신 프로필에 대한 Pod 승인 정책을 구성하는
KubeletConfig
CR(사용자 정의 리소스)을 생성합니다.다음 YAML을
nro-kubeletconfig.yaml
파일에 저장합니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여
KubeletConfig
CR을 생성합니다.oc create -f nro-kubeletconfig.yaml
$ oc create -f nro-kubeletconfig.yaml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 참고성능 프로필 또는
KubeletConfig
를 적용하면 노드 재부팅이 자동으로 트리거됩니다. 재부팅이 트리거되지 않은 경우 노드 그룹을 처리하는KubeletConfig
의 레이블을 확인하여 문제를 해결할 수 있습니다.
9.3.6. NUMA 인식 스케줄러를 사용하여 워크로드 예약 링크 복사링크가 클립보드에 복사되었습니다!
topo-aware-scheduler
가 설치되면 NUMAResourcesOperator
및 NUMAResourcesScheduler
CR이 적용되고 클러스터에 일치하는 성능 프로필 또는 kubeletconfig
가 적용되어 워크로드를 처리하는 데 필요한 최소 리소스를 지정하는 배포 CR을 사용하여 NUMA 인식 스케줄러로 워크로드를 예약할 수 있습니다.
다음 예제 배포에서는 샘플 워크로드에 대해 NUMA 인식 스케줄링을 사용합니다.
사전 요구 사항
-
OpenShift CLI(
oc
)를 설치합니다. -
cluster-admin
권한이 있는 사용자로 로그인합니다.
프로세스
다음 명령을 실행하여 클러스터에 배포된 NUMA 인식 스케줄러의 이름을 가져옵니다.
oc get numaresourcesschedulers.nodetopology.openshift.io numaresourcesscheduler -o json | jq '.status.schedulerName'
$ oc get numaresourcesschedulers.nodetopology.openshift.io numaresourcesscheduler -o json | jq '.status.schedulerName'
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
"topo-aware-scheduler"
"topo-aware-scheduler"
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 스케줄러 이름이
topo-aware-scheduler
인Deployment
CR을 생성합니다. 예를 들면 다음과 같습니다.다음 YAML을
nro-deployment.yaml
파일에 저장합니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
schedulerName
은 클러스터에 배포된 NUMA 인식 스케줄러의 이름(예:topo-aware-scheduler
)과 일치해야 합니다.
다음 명령을 실행하여
Deployment
CR을 생성합니다.oc create -f nro-deployment.yaml
$ oc create -f nro-deployment.yaml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
검증
배포에 성공했는지 확인합니다.
oc get pods -n openshift-numaresources
$ oc get pods -n openshift-numaresources
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Copy to Clipboard Copied! Toggle word wrap Toggle overflow topo-aware-scheduler
에서 다음 명령을 실행하여 배포된 Pod를 예약하는지 확인합니다.oc describe pod numa-deployment-1-6c4f5bdb84-wgn6g -n openshift-numaresources
$ oc describe pod numa-deployment-1-6c4f5bdb84-wgn6g -n openshift-numaresources
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Events: Type Reason Age From Message ---- ------ ---- ---- ------- Normal Scheduled 4m45s topo-aware-scheduler Successfully assigned openshift-numaresources/numa-deployment-1-6c4f5bdb84-wgn6g to worker-1
Events: Type Reason Age From Message ---- ------ ---- ---- ------- Normal Scheduled 4m45s topo-aware-scheduler Successfully assigned openshift-numaresources/numa-deployment-1-6c4f5bdb84-wgn6g to worker-1
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 참고예약에 사용할 수 있는 것보다 많은 리소스를 요청하는 배포는
MinimumReplicasUnavailable
오류와 함께 실패합니다. 필요한 리소스를 사용할 수 있게 되면 배포가 성공합니다. Pod는 필요한 리소스를 사용할 수 있을 때까지Pending
상태로 유지됩니다.예상되는 할당된 리소스가 노드에 대해 나열되어 있는지 확인합니다.
다음 명령을 실행하여 배포 Pod를 실행 중인 노드를 식별합니다.
oc get pods -n openshift-numaresources -o wide
$ oc get pods -n openshift-numaresources -o wide
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES numa-deployment-1-6c4f5bdb84-wgn6g 0/2 Running 0 82m 10.128.2.50 worker-1 <none> <none>
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES numa-deployment-1-6c4f5bdb84-wgn6g 0/2 Running 0 82m 10.128.2.50 worker-1 <none> <none>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 배포 Pod를 실행 중인 해당 노드의 이름으로 다음 명령을 실행합니다.
oc describe noderesourcetopologies.topology.node.k8s.io worker-1
$ oc describe noderesourcetopologies.topology.node.k8s.io worker-1
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- 보장된 pod에 할당된 리소스 때문에
사용 가능한
용량이 줄어듭니다.
보장된 Pod에서 사용하는 리소스는
noderesourcetopologies.topology.node.k8s.io
아래에 나열된 사용 가능한 노드 리소스에서 차감됩니다.
Best-effort
또는Burstable
QoS(qosClass
)가 있는 Pod의 리소스 할당은noderesourcetopologies.topology.node.k8s.io
의 NUMA 노드 리소스에 반영되지 않습니다. Pod의 소모된 리소스가 노드 리소스 계산에 반영되지 않는 경우 Pod에보장된
qosClass
가 있고 CPU 요청이 십진수 값이 아닌 정수 값인지 확인합니다. 다음 명령을 실행하여 Pod에보장된
qosClass
가 있는지 확인할 수 있습니다.oc get pod numa-deployment-1-6c4f5bdb84-wgn6g -n openshift-numaresources -o jsonpath="{ .status.qosClass }"
$ oc get pod numa-deployment-1-6c4f5bdb84-wgn6g -n openshift-numaresources -o jsonpath="{ .status.qosClass }"
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Guaranteed
Guaranteed
Copy to Clipboard Copied! Toggle word wrap Toggle overflow