8장. GPU 시간 분할 정보

프로세스

1. GPU Operator가 사용하는 네임스페이스에 time-slicing-config 라는 구성 맵을 생성합니다. NVIDIA GPU의 경우 nvidia-gpu-operator 네임스페이스입니다.

   1. OpenShift 웹 콘솔에 클러스터 관리자로 로그인합니다.
   2. 관리자 관점에서 워크로드 ConfigMap 으로 이동합니다.
   3. ConfigMap 세부 정보 페이지에서 구성 맵 생성 버튼을 클릭합니다.
   4. 구성 맵 생성 페이지에서 Configure via 의 경우 YAML 보기를 선택합니다.

   5. Data 필드에 관련 GPU의 YAML 코드를 입력합니다. 다음은 NVIDIA T4 GPU에 대한 time-slicing-config 구성 맵의 예입니다.

      참고
      • 복제본 수를 변경하여 각 물리 GPU에 사용할 수 있는 GPU 슬라이스 수를 제어할 수 있습니다.
      • 워크로드가 사용 가능한 GPU 메모리를 초과하는 경우 복제본을 늘리면 OOM(Out of Memory) 오류가 증가할 수 있습니다.

      apiVersion: v1
      kind: ConfigMap
      metadata:
        name: time-slicing-config
      data:
        tesla-t4: |-
          version: v1
          flags:
            migStrategy: none
          sharing:
            timeSlicing:
              renameByDefault: false
              failRequestsGreaterThanOne: false
              resources:
                - name: nvidia.com/gpu
                  replicas: 4

      Copy to Clipboard Toggle word wrap
   6. 생성을 클릭합니다.

2. time-slicing-config 구성 맵을 참조하도록 gpu-cluster-policy 클러스터 정책을 업데이트합니다.

   1. 관리자 화면에서 Operator 설치된 Operator로 이동합니다.
   2. NVIDIA GPU Operator 를 검색한 다음 Operator 이름을 클릭하여 Operator 세부 정보 페이지를 엽니다.
   3. ClusterPolicy 탭을 클릭합니다.
   4. 목록에서 gpu-cluster-policy 리소스를 선택하여 ClusterPolicy 세부 정보 페이지를 엽니다.

   5. YAML 탭을 클릭하고 spec.devicePlugin 섹션을 업데이트하여 time-slicing-config 구성 맵을 참조합니다. 다음은 NVIDIA T4 GPU를 위한 gpu-cluster-policy 클러스터 정책의 예입니다.

      apiVersion: nvidia.com/v1
      kind: ClusterPolicy
      metadata:
        name: gpu-cluster-policy
      spec:
          devicePlugin:
            config:
              default: tesla-t4
              name: time-slicing-config

      Copy to Clipboard Toggle word wrap
   6. 저장을 클릭합니다.

3. 시간 분할을 적용하려면 관련 머신 세트의 레이블을 지정합니다.

   1. 관리자 화면에서 컴퓨팅 머신 세트로 이동합니다.
   2. 목록에서 GPU 시간 분할에 대한 머신 세트를 선택합니다.

   3. MachineSet 세부 정보 페이지에서 YAML 탭을 클릭하고 spec.template.spec.metadata.labels 섹션을 업데이트하여 관련 머신 세트의 레이블을 지정합니다. 다음은 NVIDIA T4 GPU에 적합한 머신 레이블이 있는 머신 세트의 예입니다.

        spec:
          template:
            spec:
              metadata:
                labels:
                  nvidia.com/device-plugin.config: tesla-t4

      Copy to Clipboard Toggle word wrap
   4. 저장을 클릭합니다.

검증

1. OpenShift CLI에 로그인합니다.

2. 구성 맵을 올바르게 적용했는지 확인합니다.

   oc get configmap time-slicing-config -n nvidia-gpu-operator -o yaml

   Copy to Clipboard Toggle word wrap

3. 클러스터 정책에 시간 분할 구성이 포함되어 있는지 확인합니다.

   oc get clusterpolicy gpu-cluster-policy -o yaml

   Copy to Clipboard Toggle word wrap

4. 라벨이 노드에 적용되었는지 확인합니다.

   oc get nodes --show-labels | grep nvidia.com/device-plugin.config

   Copy to Clipboard Toggle word wrap