모델 레지스트리 작업

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 카탈로그 를 클릭합니다.

2. Red Hat 모델 섹션에서 등록할 모델의 이름을 클릭합니다.

   모델 세부 정보 페이지가 열립니다.

3. Register model 을 클릭합니다.

4. 모델 세부 정보 섹션에서 모든 버전의 모델에 적용되도록 세부 정보를 구성합니다.

   1. 선택 사항: 모델 이름 필드에 모델의 특정 이름을 입력합니다.
   2. 선택 사항: 모델 설명 필드에서 모델에 대한 설명을 업데이트합니다.

5. 버전 세부 정보 섹션에서 모델의 첫 번째 버전에 적용할 세부 정보를 입력합니다.

   1. 버전 이름 필드에 모델 버전의 이름을 입력합니다.
   2. 선택 사항: 버전 설명 필드에 모델의 첫 번째 버전에 대한 설명을 입력합니다.
   3. 소스 모델 형식 필드에 모델 형식의 이름을 입력합니다(예: onnx ).
   4. 소스 모델 형식 버전 필드에 모델 형식의 버전을 입력합니다.
6. 모델 위치 섹션에 모델의 URI가 표시됩니다.
7. Register model 을 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 모델을 등록할 모델 레지스트리를 선택합니다.

3. 모델 이름 열에서 새 버전을 등록할 모델의 이름을 클릭합니다.

   모델의 세부 정보 페이지가 열립니다.

4. Register new version 을 클릭합니다.

5. 버전 세부 정보 섹션에서 모델의 첫 번째 버전에 적용할 세부 정보를 입력합니다.

   1. 버전 이름 필드에 모델 버전의 이름을 입력합니다.
   2. 선택 사항: 버전 설명 필드에 모델의 첫 번째 버전에 대한 설명을 입력합니다.
   3. 소스 모델 형식 필드에 모델 형식의 이름을 입력합니다(예: onnx ).
   4. 소스 모델 형식 버전 필드에 모델 형식의 버전을 입력합니다.

6. 모델 위치 섹션에서 오브젝트 스토리지 세부 정보 또는 URI를 제공하여 모델의 위치를 지정합니다.

   1. 오브젝트 스토리지 세부 정보를 제공하려면 오브젝트 스토리지 라디오 버튼이 선택되어 있는지 확인합니다.

      1. 기존 연결의 세부 정보를 자동으로 채우려면 다음을 수행합니다.

         1. 연결에서 자동 채우기를 클릭합니다.
         2. 연결 대화 상자에서 프로젝트 드롭다운 목록에서 연결이 포함된 데이터 과학 프로젝트를 선택합니다.In the Autofill from connection dialog that opens, from the Project drop-down list, select the data Science project that contains the connection.

         3. 연결 이름 드롭다운 목록에서 사용할 연결을 선택합니다.

            이 목록에는 버킷이 포함된 오브젝트 스토리지 유형만 포함됩니다.

         4. Autofill 을 클릭합니다.

      2. 또는 오브젝트 스토리지 세부 정보를 수동으로 작성합니다.

         1. Endpoint 필드에 S3 호환 오브젝트 스토리지 버킷의 끝점을 입력합니다.
         2. Bucket 필드에 S3 호환 오브젝트 스토리지 버킷의 이름을 입력합니다.
         3. Region 필드에 S3 호환 오브젝트 스토리지 계정의 리전을 입력합니다.
         4. 경로 필드에 모델 또는 폴더의 경로를 입력합니다. 이 경로는 루트 폴더를 가리킬 수 없습니다.

   2. URI를 제공하려면 URI 라디오 버튼이 선택되어 있는지 확인합니다.

      1. URI 필드에 모델의 URI를 입력합니다.

         중요

         URI를 사용하여 등록된 모델 배포는 현재 공개 OCI 리포지토리에서만 지원됩니다.

7. Register new version 을 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 볼 모델이 포함된 모델 레지스트리를 선택합니다.

3. 모델 레지스트리 페이지에서는 각 모델의 모델 이름, 레이블, 마지막으로 수정된 타임스탬프 및 소유자를 포함하여 등록된 모델에 대한 고급 보기를 제공합니다.

   모델은 기본적으로 마지막으로 수정된 타임스탬프에 따라 정렬됩니다.

4. 목록에서 모델을 찾으려면 검색 표시줄을 사용합니다. 기본적으로 키워드를 검색하거나 검색 표시줄 드롭다운 메뉴를 클릭하고 소유자를 선택하여 모델 소유자 로 검색할 수 있습니다.

   키워드로 검색하면 등록된 모델 및 해당 버전의 이름, 설명 및 레이블에 대한 검색을 수행합니다.

5. 자세한 내용을 보려면 모델의 이름을 클릭합니다.

   모델의 세부 정보 페이지가 열립니다.

   1. 버전 탭에서는 등록된 버전의 모델을 볼 수 있습니다.
   2. 세부 정보 탭에서 모델의 설명, 레이블, 사용자 지정 속성, 모델 ID, 소유자 및 마지막 수정 및 생성 타임스탬프를 볼 수 있습니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 볼 모델 버전이 포함된 모델 레지스트리를 선택합니다.

3. 모델의 이름을 클릭하여 버전을 확인합니다.

   모델의 세부 정보 페이지가 열립니다.

4. 버전 탭에서는 등록된 버전의 모델을 볼 수 있습니다.

   버전은 기본적으로 마지막으로 수정된 타임스탬프에 따라 정렬됩니다.

5. 목록에서 버전을 찾으려면 검색 표시줄을 사용합니다. 기본적으로 키워드를 검색하거나 검색 표시줄 드롭다운 메뉴를 클릭하고 Author 를 선택하여 모델 작성자가 검색할 수 있습니다.

   키워드로 검색하면 등록된 모델 및 해당 버전의 이름, 설명 및 레이블에 대한 검색을 수행합니다.

6. 자세한 내용을 보려면 버전 이름을 클릭합니다.

   버전의 세부 정보 페이지가 열립니다.

7. 세부 정보 탭에서 모델의 설명, 레이블, 사용자 지정 속성, 버전 ID, 작성자 및 마지막 수정 및 등록 타임스탬프를 볼 수 있습니다. 모델의 소스 모델 형식 및 위치 정보를 볼 수도 있습니다.

8. Deployments 탭에서 이 버전의 모델 레지스트리에서 시작된 배포를 볼 수 있습니다.

   1. 배포 이름을 클릭하여 지표 페이지를 엽니다.

      단일 모델 제공 플랫폼의 모델 메트릭에 대한 자세한 내용은 배포된 모델의 성능 지표 보기를 참조하십시오. 다중 모델 제공 플랫폼의 모델 메트릭에 대한 자세한 내용은 다중 모델 제공 플랫폼의 모델 제공 런타임 지표 보기를 참조하십시오.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 편집할 모델이 포함된 모델 레지스트리를 선택합니다.
3. 모델 레지스트리 페이지에서는 각 모델의 모델 이름, 레이블, 마지막으로 수정된 타임스탬프 및 소유자를 포함하여 등록된 모델에 대한 고급 보기를 제공합니다.

4. 자세한 내용을 보려면 모델의 이름을 클릭합니다.

   모델의 세부 정보 페이지가 열립니다.

5. 세부 정보 탭에서 모델의 메타데이터를 편집할 수 있습니다.

   1. 설명 섹션에서 편집 을 클릭하여 모델의 설명을 편집합니다.In the Description section, click Edit to edit the description of the model.
   2. 레이블 섹션에서 편집을 클릭하여 모델의 레이블을 편집합니다.

   3. 속성 섹션에서 속성 추가 를 클릭하여 모델에 새 속성을 추가합니다.

      1. 기존 속성을 편집하려면 속성 옆에 있는 작업 메뉴(Cryostat )를 클릭한 다음 편집을 클릭합니다.
      2. 속성을 삭제하려면 속성 옆에 있는 작업 메뉴( Cryostat)를 클릭한 다음 삭제 를 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 편집할 모델 버전이 포함된 모델 레지스트리를 선택합니다.

3. 자세한 내용을 보려면 모델의 이름을 클릭합니다.

   모델의 세부 정보 페이지가 열립니다.

4. 자세한 내용을 보려면 버전 이름을 클릭합니다.

   버전의 세부 정보 페이지가 열립니다.

5. 세부 정보 탭에서 버전 메타데이터를 편집할 수 있습니다.

   1. 설명 섹션에서 편집을 클릭하여 버전에 대한 설명을 편집합니다.
   2. 레이블 섹션에서 편집을 클릭하여 버전의 레이블을 편집합니다.

   3. 속성 섹션에서 속성 추가 를 클릭하여 새 속성을 버전에 추가합니다.

      1. 기존 속성을 편집하려면 속성 옆에 있는 작업 메뉴(Cryostat )를 클릭한 다음 편집을 클릭합니다.
      2. 속성을 삭제하려면 속성 옆에 있는 작업 메뉴( Cryostat)를 클릭한 다음 삭제 를 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 모델 버전을 배포할 모델 레지스트리를 선택합니다.

3. 모델 이름 열에서 배포하려는 버전이 포함된 모델의 이름을 클릭합니다.In the Model name column, click the name of the model that contains the version that you want to deploy.

   모델 버전의 세부 정보 페이지가 열립니다.

4. 배포하려는 모델 버전 옆에 있는 작업 메뉴( Cryostat )를 클릭합니다.
5. Deploy 를 클릭합니다.

6. 모델 배포 대화 상자에서 모델 배포를 위한 속성을 구성합니다.

   1. 프로젝트 드롭다운 목록에서 대상 프로젝트를 선택합니다.
   2. Deploy 를 클릭합니다.

7. 모델 배포를 위해 다음 속성을 구성합니다.

   1. 프로젝트 드롭다운 목록에서 모델을 배포할 프로젝트를 선택합니다.

   2. 선택 사항: 모델 배포 이름 필드에 모델 배포의 이름을 입력합니다.

      각 배포의 이름은 기본적으로 다음 형식으로 지정됩니다.

      <model name> <model version name> <deployment creation timestamp>

      이 이름은 모델이 배포될 때 생성되는 유추 서비스의 이름입니다.

8. 다중 모델 서비스 플랫폼을 사용하거나 단일 모델 제공 플랫폼에서 모델을 배포하여 모델 배포에 설명된 대로 모델 배포에 대한 나머지 속성을 구성합니다.

   1. Deploy 를 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 카탈로그 를 클릭합니다.

2. Red Hat 모델 섹션에서 배포하려는 모델의 이름을 클릭합니다.

   모델 세부 정보 페이지가 열립니다.

3. 모델 배포를 클릭합니다.

   모델 배포 대화 상자가 열립니다.

4. 프로젝트 드롭다운 목록에서 모델을 배포할 프로젝트를 선택합니다.

   참고

   OCI 스토리지를 사용하는 모델은 단일 모델 서비스 플랫폼에만 배포할 수 있습니다. 다중 모델 제공 플랫폼을 사용하는 프로젝트가 프로젝트 목록에 표시되지 않습니다.

5. 모델 배포 섹션에서 다음을 수행합니다.

   1. 선택 사항: 모델 배포 이름 필드에 모델 배포의 고유한 이름을 입력합니다. 모델 배포 이름은 기본적으로 모델 이름이 포함된 값으로 자동 채워집니다.

      이 이름은 모델이 배포될 때 생성되는 유추 서비스의 이름입니다.

   2. 선택 사항: 리소스 이름 편집을 클릭한 다음 리소스 이름 필드에 모델 배포의 특정 리소스 이름을 입력합니다. 기본적으로 리소스 이름은 모델 레지스트리의 이름과 일치합니다.

      중요

      리소스 이름은 OpenShift에서 로 레이블이 지정된 리소스입니다. 리소스 이름은 253자를 초과할 수 없으며 소문자 영숫자 또는 - 로 구성되어야 하며 영숫자 문자로 시작하고 끝나야 합니다. 리소스 이름은 생성 후에는 편집할 수 없습니다.

      리소스 이름은 OpenShift 클러스터에 있는 다른 모델 배포 리소스의 이름과 일치하지 않아야 합니다.

   3. Serving 런타임 목록에서 OpenShift AI 배포에 설치 및 활성화된 모델 서비스 런타임을 선택합니다. 프로젝트 범위 런타임이 있는 경우 Serving 런타임 목록에는 글로벌 런타임과 프로젝트 범위 런타임을 구분하는 하위 제목이 포함됩니다.

   4. 모델 프레임워크 목록에서 모델의 프레임워크를 선택합니다.

      참고

      모델 프레임워크 목록은 모델을 배포할 때 지정한 model-serving 런타임에서 지원하는 프레임워크만 표시합니다.

6. 배포 모드 목록에서 표준 또는 고급 을 선택합니다. 배포 모드에 대한 자세한 내용은 KServe 배포 모드 정보를 참조하십시오.

   1. 배포할 모델 서버 복제본 수에서 값을 지정합니다.In the Number of model server replicas to deploy field, specify a value.
   2. 모델 서버 크기 목록에서 값을 선택합니다.From the Model server size list, select a value.

   3. 하드웨어 프로필을 생성한 경우 하드웨어 프로필 목록에서 하드웨어 프로필 을 선택합니다. 프로젝트 범위 하드웨어 프로필이 있는 경우 하드웨어 프로필 목록에는 글로벌 하드웨어 프로필과 프로젝트 범위 하드웨어 프로필을 구분하기 위한 하위 제목이 포함됩니다.

      중요

      기본적으로 하드웨어 프로필은 대시보드 탐색 메뉴 및 사용자 인터페이스에 표시되지 않습니다. 또한 더 이상 사용되지 않는 가속기 프로필 기능과 관련된 사용자 인터페이스 구성 요소가 계속 표시됩니다. 대시보드 탐색 메뉴의 설정 → 하드웨어 프로필 옵션을 표시하려면 OpenShift의 OdhDashboardConfig CR(사용자 정의 리소스)에서 disableHardwareProfiles 값을 false 로 설정합니다. 대시보드 구성 옵션 설정에 대한 자세한 내용은 대시보드 사용자 지정을 참조하십시오.

   4. 모델 경로 섹션에서 외부 경로 확인란을 통해 사용 가능한 배포된 모델 만들기 확인란을 선택하여 배포된 모델을 외부 클라이언트에서 사용할 수 있도록 합니다.

   5. 토큰 인증 섹션에서 모델 서버에 대한 토큰 인증이 필요한 경우 토큰 인증 필요 확인란을 선택합니다. 토큰 인증 구성을 완료하려면 다음 작업을 수행합니다.

      1. 서비스 계정 이름 필드에 토큰이 생성될 서비스 계정 이름을 입력합니다. 모델 서버가 구성되면 생성된 토큰이 토큰 시크릿 필드에 생성되고 표시됩니다.
      2. 추가 서비스 계정을 추가하려면 서비스 계정 추가를 클릭하고 다른 서비스 계정 이름을 입력합니다.
7. 소스 모델 위치 섹션의 현재 URI 를 선택하여 카탈로그에서 선택한 모델을 배포합니다.

8. 선택 사항: 구성 매개변수 섹션에서 런타임 매개변수를 사용자 지정합니다.

   1. 배포된 모델의 작동 방식을 정의하도록 추가 제공 런타임 인수 의 값을 수정합니다.
   2. 추가 환경 변수 의 값을 수정하여 모델의 환경에서 변수를 정의합니다.
9. Deploy 를 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 편집할 모델이 포함된 모델 레지스트리를 선택합니다.

3. 자세한 내용을 보려면 모델의 이름을 클릭합니다.

   모델의 세부 정보 페이지가 열립니다.

4. 삭제할 배포가 포함된 모델 버전의 이름을 클릭합니다.

   모델 버전의 세부 정보 페이지가 열립니다.

5. 배포를 클릭합니다.

6. 배포를 삭제하려면 배포 옆에 있는 작업 메뉴( Cryostat)를 클릭한 다음 삭제 를 클릭합니다.

   배포된 모델 삭제 대화 상자가 열립니다.

7. 텍스트 필드에 모델 배포 이름을 입력하여 삭제하려는지 확인합니다.
8. 배포된 모델 삭제를 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 모델을 보관하려는 모델 레지스트리를 선택합니다.
3. 보관하려는 모델 옆에 있는 작업 메뉴( Cryostat )를 클릭합니다.
4. 아카이브 모델을 클릭합니다.
5. 표시되는 Archive model? 대화 상자에서 텍스트 필드에 모델의 이름을 입력하여 보관하려는지 확인합니다.
6. 아카이브 를 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 모델을 보관하려는 모델 레지스트리를 선택합니다.

3. 모델 이름 열에서 보관하려는 버전이 포함된 모델의 이름을 클릭합니다.In the Model name column, click the name of the model that contains the version that you want to archive.

   모델 버전의 세부 정보 페이지가 열립니다.

4. 아카이브하려는 버전 옆에 있는 작업 메뉴( Cryostat )를 클릭합니다.
5. 아카이브 모델 버전을 클릭합니다.
6. 열리는 아카이브 버전? 대화 상자에서 텍스트 필드에 모델 버전의 이름을 입력하여 보관하려는지 확인합니다.
7. 아카이브 를 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 모델을 복원할 모델 레지스트리를 선택합니다.

3. 등록 모델 드롭다운 메뉴 옆에 있는 작업 메뉴( Cryostat )를 클릭한 다음 보관된 모델 보기를 클릭합니다.

   모델 레지스트리의 보관된 모델 페이지가 열립니다.

4. 복원할 모델 옆에 있는 작업 메뉴( Cryostat )를 클릭합니다.
5. 모델 복원을 클릭합니다.
6. 표시되는 복원 모델 대화 상자에서 복원을 클릭합니다.In the Restore model? dialog that is displayed, click Restore.

프로세스

1. OpenShift AI 대시보드에서 모델 → 모델 레지스트리 를 클릭합니다.
2. 모델 레지스트리 드롭다운 메뉴에서 모델을 복원할 모델 레지스트리를 선택합니다.

3. 모델 이름 열에서 복원할 버전이 포함된 모델의 이름을 클릭합니다.

   모델 버전의 세부 정보 페이지가 열립니다.

4. Register new version 드롭다운 메뉴 옆에 있는 작업 메뉴( Cryostat )를 클릭한 다음 아카이브된 버전 보기를 클릭합니다.

   모델의 보관된 버전 페이지가 열립니다.

5. 복원할 버전 옆에 있는 작업 메뉴( Cryostat )를 클릭합니다.
6. 버전 복원을 클릭합니다.

7. Restore version? 대화 상자에서 복원을 클릭합니다.

   버전의 세부 정보 페이지가 열립니다.