3장. 연결이 끊긴 환경에서 OpenShift AI 배포

제품 서브스크립션

• Red Hat OpenShift AI Self-Managed 서브스크립션이 있어야 합니다.

  새 서브스크립션을 구매하려면 Red Hat 계정 관리자에게 문의하십시오. 계정 관리자가 아직 없는 경우 https://www.redhat.com/en/contact 에서 양식을 작성하여 요청할 수 있습니다.

OpenShift 클러스터에 대한 클러스터 관리자 액세스

• 클러스터 관리자 액세스 권한이 있는 OpenShift 클러스터가 있어야 합니다. OpenShift Container Platform 설명서에 따라 기존 클러스터를 사용하거나 클러스터를 생성합니다. 연결이 끊긴 환경에서 클러스터 설치
• 클러스터를 설치한 후 OpenShift Container Platform 설명서에 따라 Cluster Samples Operator를 구성합니다. 제한된 클러스터의 Samples Operator 구성.
• 클러스터에는 CPU가 8개 이상이고 Operator를 설치할 때 사용할 수 있는 32GiB RAM이 있는 작업자 노드가 2개 이상 있어야 합니다. OpenShift AI를 사용하려면 최소 요구 사항 이상으로 추가 클러스터 리소스가 필요합니다.
• 단일 노드 OpenShift에서 OpenShift AI를 사용하려면 노드에 최소 32개의 CPU와 128GiB RAM이 있어야 합니다.

• 클러스터는 동적으로 프로비저닝할 수 있는 기본 스토리지 클래스로 구성됩니다.

  oc get storageclass 명령을 실행하여 기본 스토리지 클래스가 구성되었는지 확인합니다. 이름 옆에 (기본값) 스토리지 클래스가 표시되지 않는 경우 OpenShift Container Platform 설명서에 따라 기본 스토리지 클래스 변경이라는 기본 스토리지 클래스를 구성합니다. 동적 프로비저닝에 대한 자세한 내용은 동적 프로비저닝 을 참조하십시오.

• Open Data Hub를 클러스터에 설치할 수 없습니다.

OpenShift에 대해 구성된 ID 공급자

• Red Hat OpenShift AI는 Red Hat OpenShift Container Platform과 동일한 인증 시스템을 사용합니다. ID 공급자 구성에 대한 자세한 내용은 ID 공급자 구성 이해 를 참조하십시오.
• cluster-admin 역할의 사용자로 클러스터에 액세스할 수 있습니다. kubeadmin 사용자는 허용되지 않습니다.

미러링 머신에서 인터넷 액세스

• 인터넷 액세스와 함께 OpenShift AI Self-Managed 설치에 필요한 미러 이미지를 미러링하려면 다음 도메인에 액세스할 수 있어야 합니다.

  • cdn.redhat.com
  • subscription.rhn.redhat.com
  • registry.access.redhat.com
  • registry.redhat.io
  • quay.io

• CUDA 기반 이미지의 경우 다음 도메인에 액세스할 수 있어야 합니다.

  • ngc.download.nvidia.cn
  • developer.download.nvidia.com

사용자 정의 네임스페이스 생성

• 기본적으로 OpenShift AI는 사전 정의된 네임스페이스를 사용하지만 필요에 따라 operator 및 DSCI.applicationNamespace 에 대한 사용자 지정 네임스페이스를 정의할 수 있습니다. OpenShift AI에서 생성한 네임스페이스에는 일반적으로 이름에 openshift 또는 redhat 이 포함됩니다. OpenShift AI가 제대로 작동하는 데 필요하므로 이러한 시스템 네임스페이스의 이름을 바꾸지 마십시오. OpenShift AI Operator를 설치하기 전에 사용자 정의 네임스페이스를 사용하는 경우 필요에 따라 이를 생성하고 라벨을 지정해야 합니다.

Data Science Pipeline 준비

• 데이터 사이언스 파이프라인 2.0에는 Argo Workflows 설치가 포함되어 있습니다. 클러스터의 데이터 사이언스 파이프라인에 의해 설치되지 않은 Argo Workflow의 기존 설치가 있는 경우 OpenShift AI를 설치한 후 데이터 사이언스 파이프라인이 비활성화됩니다. OpenShift AI를 설치하기 전에 클러스터에 데이터 사이언스 파이프라인에 의해 설치되지 않은 Argo Workflow의 기존 설치가 없거나 클러스터에서 Argo 워크플로우의 별도의 설치를 제거합니다.
• 연결이 끊긴 환경에서 파이프라인을 실행하려면 먼저 이미지를 프라이빗 레지스트리에 업로드해야 합니다. 자세한 내용은 제한된 환경에서 파이프라인을 실행할 이미지 미러링을 참조하십시오.
• 로컬 스토리지를 사용하지 않도록 파이프라인 아티팩트를 S3 호환 오브젝트 스토리지 버킷에 저장할 수 있습니다. 이렇게 하려면 먼저 스토리지 계정의 S3 버킷에 대한 쓰기 액세스 권한을 구성해야 합니다.

KServe 종속 항목 설치

• 단일 모델 제공 플랫폼에서 대규모 모델을 제공하는 데 사용하는 KServe 구성 요소를 지원하려면 Red Hat OpenShift Serverless 및 Red Hat OpenShift Service Mesh용 Operator도 설치하고 추가 구성을 수행해야 합니다. 자세한 내용은 단일 모델 제공 플랫폼 정보를 참조하십시오.
• 단일 모델 서비스 플랫폼에 대한 권한 부여 공급자를 추가하려면 Red Hat - Authorino Operator를 설치해야 합니다. 자세한 내용은 단일 모델 제공 플랫폼에 대한 권한 부여 공급자 추가를 참조하십시오.

모델 레지스트리 종속 항목 설치 (기술 프리뷰 기능)

• 모델 레지스트리 구성 요소를 사용하려면 Red Hat Authorino, Red Hat OpenShift Serverless 및 Red Hat OpenShift Service Mesh용 Operator도 설치해야 합니다. 모델 레지스트리 구성 요소에 대한 자세한 내용은 모델 레지스트리 구성 요소 구성을 참조하십시오.

오브젝트 스토리지에 대한 액세스

• OpenShift AI의 구성 요소는 AWS S3, MinIO, Ceph 또는 IBM Cloud Storage와 같은 S3 호환 오브젝트 스토리지를 요구하거나 사용할 수 있습니다. 오브젝트 저장소는 사용자가 오브젝트 또는 파일로 데이터에 액세스할 수 있는 데이터 스토리지 메커니즘입니다. S3 API는 오브젝트 스토리지 서비스에 대한 HTTP 기반 액세스에 대해 인식된 표준입니다.
• OpenShift 클러스터에서 오브젝트 스토리지에 액세스할 수 있어야 합니다. 클러스터와 동일한 연결이 끊긴 네트워크에 오브젝트 스토리지를 배포합니다.

• 다음 구성 요소에는 오브젝트 스토리지가 필요합니다.

  • 저장된 모델을 배포하기 위한 단일 모델 또는 다중 모델 제공 플랫폼. 단일 모델 서비스 플랫폼에 모델 배포 또는 다중 모델 서비스 플랫폼을 사용하여 모델 배포를 참조하십시오.
  • 데이터 사이언스 파이프라인, 아티팩트, 로그 및 중간 결과를 저장합니다. 파이프라인 서버 구성 및 파이프라인 로그 정보를 참조하십시오.

• 오브젝트 스토리지는 다음 구성 요소에서 사용할 수 있습니다.

  • 대규모 데이터 집합에 액세스하기 위한 워크벤치. 데이터 과학 프로젝트에 연결 추가를 참조하십시오.
  • 분산 워크로드 - 입력 데이터를 가져와서 결과를 내보낼 수 있습니다. 데이터 사이언스 파이프라인의 분산 데이터 사이언스 워크로드 실행을 참조하십시오.
  • 파이프라인 내에서 실행되는 코드입니다. 예를 들어 결과 모델을 오브젝트 스토리지에 저장하려면 다음을 수행합니다. pipe pyterlab의 파이프라인 개요 를 참조하십시오.