3.20. NVIDIA NIM 모델 제공 플랫폼 정보

프로세스

1. OpenShift AI에 로그인합니다.
2. OpenShift AI 대시보드의 왼쪽 메뉴에서 애플리케이션 탐색을 클릭합니다.
3. 탐색 페이지에서 NVIDIA NIM 타일을 찾습니다.
4. 애플리케이션 타일에서 사용을 클릭합니다.
5. NGC API 키를 입력한 다음 Submit 을 클릭합니다.

프로세스

1. 왼쪽 메뉴에서 Data Science Projects 를 클릭합니다.

   Data Science Projects 페이지가 열립니다.

2. 모델을 배포할 프로젝트의 이름을 클릭합니다.

   프로젝트 세부 정보 페이지가 열립니다.

3. 모델 탭을 클릭합니다.

4. 모델 섹션에서 다음 작업 중 하나를 수행합니다.

   • NVIDIA NIM 모델 서비스 플랫폼 타일에서 타일 에서 NVIDIA NIM 선택을 클릭한 다음 모델 배포를 클릭합니다.
   • 이전에 NVIDIA NIM 모델 제공 유형을 선택한 경우 모델 페이지에는 배포 모델 버튼과 함께 오른쪽 상단에 NVIDIA 모델 서비스가 활성화됩니다. 계속하려면 배포 모델을 클릭합니다.

   모델 배포 대화 상자가 열립니다.

5. 다음과 같이 모델 배포를 위한 속성을 구성합니다.

   1. 모델 배포 이름 필드에 배포에 대한 고유한 이름을 입력합니다.
   2. NVIDIA NIM 목록에서 배포하려는 NVIDIA NIM 모델을 선택합니다. 자세한 내용은 지원 모델을 참조하십시오.
   3. NVIDIA NIM 스토리지 크기 필드에서 NVIDIA NIM 모델을 저장하도록 생성될 클러스터 스토리지 인스턴스의 크기를 지정합니다.
   4. 배포할 모델 서버 복제본 수에서 값을 지정합니다.In the Number of model server replicas to deploy field, specify a value.
   5. 모델 서버 크기 목록에서 값을 선택합니다.From the Model server size list, select a value.

   6. 액셀러레이터 목록에서 가속기 를 선택합니다.

      액셀러레이터 필드가 표시됩니다.

   7. 수 의 가속기 필드에서 사용할 가속기의 수를 지정합니다. 기본값은 1입니다.
6. Deploy 를 클릭합니다.