2.5. Leader Worker Set Operator 통합
Leader Worker Set Operator를 Kueue의 Red Hat 빌드와 통합할 수 있으므로 LeaderWorkerSets를 실행할 때 스케줄링 및 리소스 관리 기능을 활용할 수 있습니다.
Leader Worker Set Operator를 사용하면 다중 노드 AI/ML 추론 배포를 효율적으로 관리할 수 있습니다. Red Hat build of Kueue는 이러한 배포를 위한 스케줄링 및 리소스 관리 기능을 제공합니다. LeaderWorkerSet API를 실행하여 Pod 그룹을 복제 단위로 배포할 때 Leader Worker Set Operator를 구성할 수 있습니다.
2.5.1. Red Hat build of Kue를 사용하여 Leader Worker Set Operator 설치 링크 복사링크가 클립보드에 복사되었습니다!
Leader Worker Set Operator와 함께 작동하도록 Red Hat build of Kue를 구성할 수 있습니다.
사전 요구 사항
- 소프트웨어 카탈로그에 Red Hat Build of Kue Operator를 사용하여 Red Hat build of Kueue를 설치했습니다.
- Leader Worker Set Operator 및 Operand를 소프트웨어 카탈로그에 설치했습니다.
-
클러스터 관리자 권한과
kueue-batch-admin-role역할이 있습니다. - OpenShift Container Platform 웹 콘솔에 액세스할 수 있습니다.
- 클러스터에 Red Hat OpenShift용 cert-manager Operator를 설치했습니다.
프로세스
다음 예와 같이 Kueue 클러스터 오브젝트의 Red Hat 빌드의
config.integrations.framework섹션에LeaderWorkerSet을 추가합니다.apiVersion: kueue.openshift.io/v1 kind: Kueue metadata: labels: app.kubernetes.io/name: kueue-operator app.kubernetes.io/managed-by: kustomize name: cluster namespace: openshift-kueue-operator spec: managementState: Managed config: integrations: frameworks: - BatchJob - LeaderWorkerSet