3.2. 배포된 모델 작업

프로세스

1. OpenShift AI 대시보드의 왼쪽 메뉴에서 Data Science projects 를 클릭합니다.

   데이터 사이언스 프로젝트 페이지가 열립니다.

2. 모델을 배포할 프로젝트의 이름을 클릭합니다.

   프로젝트 세부 정보 페이지가 열립니다.

3. 모델 탭을 클릭합니다.
4. 모델 배포를 클릭합니다.

5. 다음과 같이 모델 배포를 위한 속성을 구성합니다.

   1. 모델 이름 필드에 배포하려는 모델의 고유 이름을 입력합니다.

   2. 모델 프레임워크 목록에서 모델의 프레임워크를 선택합니다.

      참고

      모델 프레임워크 목록은 모델 서버를 구성할 때 지정한 model-serving 런타임에서 지원하는 프레임워크만 표시합니다.

   3. S3 호환 오브젝트 스토리지에서 배포할 모델의 위치를 지정하려면 다음 작업 세트 중 하나를 수행합니다.

      • 기존 연결을 사용하려면 다음을 수행합니다.

        1. 기존 연결을 선택합니다.
        2. 이름 목록에서 이전에 정의한 연결을 선택합니다.

        3. 경로 필드에서 지정된 데이터 소스에 모델이 포함된 폴더 경로를 입력합니다.

           참고

           기존 S3 또는 URI 데이터 연결을 사용하여 등록된 모델 버전을 배포하는 경우 일부 연결 세부 정보가 자동으로 입력될 수 있습니다. 이는 데이터 연결 유형 및 데이터 사이언스 프로젝트에서 사용할 수 있는 일치 연결 수에 따라 달라집니다. 예를 들어 일치하는 연결이 하나만 있는 경우 경로, URI, 끝점, 버킷 및 리전과 같은 필드가 자동으로 채워질 수 있습니다. 일치하는 연결의 레이블이 Recommended 로 지정됩니다.

      • 새 연결 사용

        1. 모델에 액세스할 수 있는 새 연결을 정의하려면 새 연결을 선택합니다.

        2. 연결 추가 모달에서 연결 유형을 선택합니다. S3 호환 오브젝트 스토리지 및 URI 옵션은 사전 설치된 연결 유형입니다. OpenShift AI 관리자가 이를 추가한 경우 추가 옵션을 사용할 수 있습니다.

           연결 추가 양식은 선택한 연결 유형과 관련된 필드를 사용하여 열립니다.

        3. 연결 세부 정보 필드를 입력합니다.

   4. (선택 사항) 구성 매개변수 섹션에서 런타임 매개변수를 사용자 지정합니다.

      1. 배포된 모델의 작동 방식을 정의하도록 추가 제공 런타임 인수 의 값을 수정합니다.
      2. 추가 환경 변수 의 값을 수정하여 모델의 환경에서 변수를 정의합니다.
   5. Deploy 를 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 모델 배포를 클릭합니다.

   모델 배포 페이지가 열립니다.

   각 모델에 대해 페이지에는 모델 이름, 모델이 배포되는 프로젝트, 모델이 사용하는 model-serving 런타임, 배포 상태와 같은 세부 정보가 표시됩니다.

2. 선택 사항: 지정된 모델의 경우 유추 끝점 열의 링크를 클릭하여 배포된 모델의 유추 끝점을 확인합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 모델 배포를 클릭합니다.

   모델 배포 페이지가 열립니다.

2. 업데이트할 배포 속성이 있는 모델 옆에 있는 작업 메뉴( )를 클릭하고 편집을 클릭합니다.

   모델 편집 대화 상자가 열립니다.

3. 다음과 같이 모델의 배포 속성을 업데이트합니다.

   1. 모델 이름 필드에 모델의 고유 이름을 새로 입력합니다.
   2. 모델 서버 목록에서 모델의 모델 서버를 선택합니다.

   3. 모델 프레임워크 목록에서 모델의 프레임워크를 선택합니다.

      참고

      모델 프레임워크 목록은 모델 서버를 구성할 때 지정한 model-serving 런타임에서 지원하는 프레임워크만 표시합니다.

   4. 선택적으로 기존 연결을 지정하거나 새 연결을 생성하여 연결을 업데이트합니다.
   5. Redeploy 를 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 모델 모델 배포를 클릭합니다.

   모델 배포 페이지가 열립니다.

2. 삭제할배포된 모델 옆에 있는 작업 메뉴( Cryostat )를 클릭하고 삭제 를 클릭합니다.

   배포된 모델 삭제 대화 상자가 열립니다.

3. 텍스트 필드에 배포된 모델의 이름을 입력하여 삭제하려는지 확인합니다.
4. 배포된 모델 삭제를 클릭합니다.