3.14. 단일 모델 제공 플랫폼에 배포된 모델에 대한 추론 요청

프로세스

1. OpenShift AI 대시보드에서 Data Science Projects 를 클릭합니다.

   Data Science Projects 페이지가 열립니다.

2. 배포된 모델이 포함된 프로젝트의 이름을 클릭합니다.

   프로젝트 세부 정보 페이지가 열립니다.

3. 모델 탭을 클릭합니다.

4. 모델 및 모델 서버 목록에서 모델의 섹션을 확장합니다.

   권한 부여 토큰은 토큰 권한 부여 섹션의 토큰 시크릿 필드에 표시됩니다.

5. 선택 사항: 유추 요청에 사용할 권한 부여 토큰을 복사하려면 토큰 값 옆에 있는 복사 버튼( )을 클릭합니다.

프로세스

1. OpenShift AI 대시보드에서 Model Serving 을 클릭합니다.

   모델의 유추 끝점은 유추 끝점 필드에 표시됩니다.

2. 모델에서 수행하려는 동작에 따라(및 모델이 해당 작업을 지원하는 경우) 유추 끝점을 복사한 다음 URL 끝에 경로를 추가합니다.
3. 배포된 모델에 API 요청을 만들려면 끝점을 사용합니다.