3.3. Leader Worker Set Operator를 사용하여 분산 작업 부하 관리
Leader Worker Set Operator를 사용하면 분산 추론 워크로드를 관리하고 대규모 추론 요청을 효율적으로 처리할 수 있습니다.
3.3.1. 리더 워커 세트 오퍼레이터 설치 링크 복사링크가 클립보드에 복사되었습니다!
웹 콘솔을 사용하여 Leader Worker Set Operator를 설치할 수 있습니다.
사전 요구 사항
- 
							
cluster-admin권한이 있는 클러스터에 액세스할 수 있습니다. - OpenShift Container Platform 웹 콘솔에 액세스할 수 있습니다.
 - cert-manager Operator for Red Hat OpenShift 1.14.0 이상을 설치했습니다.
 
프로세스
- OpenShift Container Platform 웹 콘솔에 로그인합니다.
 - Red Hat OpenShift용 cert-manager Operator가 설치되었는지 확인하세요.
 리더 워커 세트 오퍼레이터를 설치합니다.
- 
									Operators 
OperatorHub로 이동합니다.  - 필터 상자에 Leader Worker Set Operator를 입력합니다.
 - Leader Worker Set Operator를 선택하고 설치를 클릭합니다.
 Operator 설치 페이지에서 다음을 수행합니다.
- 업데이트 채널은 stable-v1.0 으로 설정되어 Leader Worker Set Operator 1.0의 최신 안정 릴리스가 설치됩니다.
 - 설치 모드에서 클러스터의 특정 네임스페이스를 선택합니다.
 - 설치된 네임스페이스 에서 운영자가 권장하는 네임스페이스: openshift-lws-operator를 선택합니다.
 업데이트 승인 에서 다음 업데이트 전략 중 하나를 선택하세요.
- 자동 전략을 사용하면 Operator 새 버전이 준비될 때 OLM(Operator Lifecycle Manager)이 자동으로 Operator를 업데이트할 수 있습니다.
 - 수동 전략을 사용하려면 적절한 자격 증명을 가진 사용자가 Operator 업데이트를 승인해야 합니다.
 
- 설치를 클릭합니다.
 
- 
									Operators 
 Leader Worker Set Operator에 대한 사용자 정의 리소스(CR)를 만듭니다.
- 
									설치된 운영자 
리더 작업자 설정 운영자 로 이동합니다.  - 제공된 API 에서 LeaderWorkerSetOperator 창에서 인스턴스 만들기를 클릭합니다.
 - 생성을 클릭합니다.
 
- 
									설치된 운영자 
 
3.3.2. 리더 워커 세트 배치 링크 복사링크가 클립보드에 복사되었습니다!
Leader Worker Set Operator를 사용하면 노드 간에 분산된 작업 부하를 관리하는 데 도움이 되는 리더 워커 세트를 배포할 수 있습니다.
사전 요구 사항
- Leader Worker Set Operator를 설치했습니다.
 
프로세스
다음 명령을 실행하여 새 프로젝트를 만듭니다.
oc new-project my-namespace
$ oc new-project my-namespaceCopy to Clipboard Copied! Toggle word wrap Toggle overflow leader-worker-set.yaml이라는 파일을 만듭니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
 - 리더 워커 세트 리소스의 이름을 지정합니다.
 - 2
 - 리더 워커 세트가 실행될 네임스페이스를 지정합니다.
 - 3
 - 리더 포드에 대한 포드 템플릿을 지정합니다.
 - 4
 - Pod 장애가 발생할 때의 재시작 정책을 지정합니다. 허용되는 값은 전체 그룹을 다시 시작하는
RecreateGroupOnPodRestart이고, 그룹을 다시 시작하지 않는None입니다. - 5
 - 리더 포드를 포함하여 각 그룹에 생성할 포드의 수를 지정합니다. 예를 들어, 값이
3이면 리더 포드 1개와 워커 포드 2개가 생성됩니다. 기본값은1입니다. - 6
 - 워커 포드에 대한 포드 템플릿을 지정합니다.
 - 7
 - 헤드리스 서비스를 생성할 때 사용할 정책을 지정합니다. 허용되는 값은
UniquePerReplica또는Shared입니다. 기본값은공유입니다. - 8
 - 복제본 수 또는 리더-워커 그룹의 수를 지정합니다. 기본값은
1입니다. - 9
 - 롤링 업데이트 중에
복제본값보다 높게 예약할 수 있는 최대 복제본 수를 지정합니다. 값은 정수나 백분율로 지정할 수 있습니다. 
구성 가능한 모든 필드에 대한 자세한 내용은 LeaderWorkerSet API 업스트림 문서를 참조하세요.
다음 명령을 실행하여 리더 워커 세트 구성을 적용합니다.
oc apply -f leader-worker-set.yaml
$ oc apply -f leader-worker-set.yamlCopy to Clipboard Copied! Toggle word wrap Toggle overflow 
검증
다음 명령을 실행하여 포드가 생성되었는지 확인하세요.
oc get pods -n my-namespace
$ oc get pods -n my-namespaceCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 상태 저장 세트를 검토하세요.
oc get statefulsets
$ oc get statefulsetsCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
NAME READY AGE my-lws 4/4 111s my-lws-0 2/2 57s my-lws-1 2/2 60s
NAME READY AGE my-lws 4/4 111s1 my-lws-0 2/2 57s2 my-lws-1 2/2 60s3 Copy to Clipboard Copied! Toggle word wrap Toggle overflow