2장. 새로운 기능 및 개선 사항

이번 릴리스에서는 임베딩 모델을 지원하는 단일 모델 서비스 플랫폼에 대해 사전 설치된 모델 서비스 런타임인 KServe용 Cakeygent Standalone ServingRuntime 이 도입되었습니다.

캐리어트-NLP의 업그레이드된 버전으로, 런타임은 Embeddings Service에 대한 지원을 포함하며, 포함, 문장 유사성, 재순위에 대한 추론 엔드 포인트를 제공합니다.

기본적으로 REST 프로토콜을 사용하여 엔드포인트에 액세스할 수 있습니다. gRPC 프로토콜을 사용하도록 끝점을 수동으로 구성할 수도 있습니다.

자세한 내용은 모델 제공 런타임을 참조하십시오.

이제 데이터 사이언스 파이프라인에 대한 테스트를 생성하고 사용할 수 있습니다. 실험은 파이프라인의 다양한 구성을 시도할 수 있는 작업 공간입니다. 또한 실험하여 파이프라인 실행을 논리 그룹으로 구성할 수도 있습니다.

OpenShift AI 대시보드의 Experiments 탭에서 파이프라인 실험 추적, 실험 실행 비교, 실행 아티팩트 보기 및 추적, 실행 메트릭을 시각화할 수 있습니다.

실험 실행 테이블의 메트릭 열을 사용자 지정하여 사용 사례와 관련된 메트릭을 표시할 수 있습니다.

실험 내에서 최대 10개의 실행 메트릭을 비교하고 모든 선택된 실행에 대해 사용 가능한 매개변수, 스칼라 메트릭, 혼란 매트릭스 및 수신자 운영 특성(ROC) 곡선 데이터를 볼 수도 있습니다.

자세한 내용은 파이프라인 실험 관리를 참조하십시오.

Elasticsearch는 이제 OpenShift AI에서 통합 파트너 솔루션으로 사용할 수 있습니다.

Elasticsearch에는 벡터 데이터베이스, 여러 모델을 사용할 수 있는 기능 및 RG(Retrieval Augmented Generation)를 위한 강력한 검색 기능을 포함하여 개발자가 차세대 검색 경험을 통해 차세대 검색 경험을 구축하는 데 필요한 모든 도구가 포함되어 있습니다.

Elasticsearch를 사용하려면 Elastic Operator를 설치해야 합니다. 자세한 내용은 Elasticsearch (ECK) Operator 를 참조하십시오.

Elastic Operator를 설치한 후 OpenShift AI 대시보드에서 애플리케이션 탐색 에서 Elasticsearch를 활성화할 수 있습니다.