3장. 새로운 기능 및 개선 사항

OpenShift AI의 분산 워크로드에 대해 PyTorch v2.8.0 교육 이미지를 사용할 수 있습니다.

다음과 같은 새 이미지를 사용할 수 있습니다.

새로운 하드웨어 프로필 기능은 이전 액셀러레이터 프로파일과 워크벤치용 레거시 컨테이너 크기 선택기를 대체합니다.

하드웨어 프로필은 AI 워크로드에 대한 컴퓨팅 구성을 보다 유연하고 일관되게 정의하여 다양한 하드웨어 유형에서 리소스 관리를 단순화합니다.

이제 연결 API 를 OpenShift AI에서 정식 출시(GA) 기능으로 사용할 수 있습니다.

이 API를 사용하면 OpenShift AI 내에서 직접 외부 데이터 소스 및 서비스에 대한 연결을 생성하고 관리할 수 있습니다. 연결은 표준화된 주석이 있는 Kubernetes Secret으로 저장되므로 통합 구성 요소에서 프로토콜 기반 검증 및 라우팅을 수행할 수 있습니다.

OpenShift AI는 IBM Power(ppc64le) 및 IBM Z(s390x) 아키텍처를 지원합니다.

이 확장된 플랫폼 지원을 통해 IBM 엔터프라이즈 하드웨어에 AI 및 머신러닝 워크로드를 배포할 수 있으므로 이기종 환경 전반에 걸쳐 유연성과 확장성을 향상시킬 수 있습니다.

지원되는 소프트웨어 플랫폼, 구성 요소 및 종속 항목에 대한 자세한 내용은 지식베이스 문서: Red Hat OpenShift AI: 지원되는 구성을 참조하십시오.

이제 TrustyAI를 IBM Power(ppc64le) 및 IBM Z(s390x) 아키텍처의 GA(GA) 기능으로 사용할 수 있습니다.

TrustyAI는 책임감 있고 투명한 AI 워크플로우를 지원하는 툴 모음을 제공하는 오픈 소스 Responsible AI 툴킷입니다. 공정성 및 데이터 드리프트 메트릭, 로컬 및 글로벌 모델 설명, 텍스트 해독, 언어 모델 벤치마킹 및 언어 모델 보호와 같은 기능을 제공합니다.

이러한 기능을 사용하면 IBM Power 및 IBM Z 시스템의 OpenShift AI 환경 내에서 AI 시스템의 투명성, 책임감 및 잘못된 사용을 보장할 수 있습니다.

이제 IBM Power(ppc64le) 및 IBM Z(s390x) 아키텍처에서 모델 레지스트리를 사용할 수 있습니다.

Model Registry는 AI 및 머신러닝(AI/ML) 모델 라이프사이클 관리를 단순화하고 표준화하는 오픈 소스 구성 요소입니다. 이 플랫폼은 데이터 사이언스 및 MLOps 팀 전반에서 원활한 협업을 가능하게 하는 모델을 저장, 버전 관리 및 관리하기 위한 중앙 집중식 플랫폼을 제공합니다.

모델 레지스트리는 모델 버전 관리 및 라인리지 추적, 메타데이터 관리 및 모델 검색, 모델 승인 및 승격 워크플로우, CI/CD 및 배포 파이프라인과의 통합, IBM Power 및 IBM Z 시스템의 거버넌스, 감사 가능성 및 컴플라이언스 기능과 같은 기능을 지원합니다.

IBM Power(ppc64le) 및 IBM Z(s390x) 아키텍처에서 노트북을 사용할 수 있습니다.

노트북은 OpenShift AI 에코시스템 내에서 데이터 사이언스, 머신 러닝, 연구 및 코딩을 위한 컨테이너화된 브라우저 기반 개발 환경을 제공합니다. 이러한 환경은 Workbenches를 통해 시작하고 다음 옵션을 포함할 수 있습니다.

기능 저장소는 IBM Power (ppc64le) 아키텍처에서 지원됩니다.

이러한 지원을 통해 사용자는 OpenShift AI와 완벽하게 통합되며 IBM Power 기반 환경에서 직접 머신 러닝 모델의 기능을 빌드, 등록 및 관리할 수 있습니다.

AI Pipelines는 IBM Power(ppc64le) 아키텍처에서 지원됩니다.

이 기능을 사용하면 AI 워크로드에 대한 IBM Power 시스템의 성능과 확장성을 활용하여 OpenShift AI 내에서 기본적으로 AI 파이프라인을 정의, 실행 및 모니터링할 수 있습니다.

IBM Power 시스템에서 실행되는 AI Pipelines는 x86 배포와 기능적 패리티를 유지합니다.

FIL, PyTorch, Python 및 ONNX 백엔드를 사용하여 Triton 유추 서버(CPU만 해당)에 대한 Power 아키텍처 지원을 활성화할 수 있습니다. Triton 유추 서버를 Red Hat OpenShift AI의 IBM Power 아키텍처에서 런타임을 제공하는 사용자 지정 모델로 배포할 수 있습니다.

자세한 내용은 Triton Inference Server 이미지를 참조하십시오.

ONNX-MLIR, Snap ML(C++) 및 PyTorch를 비롯한 여러 백엔드 옵션으로 Triton Inference Server(Telum I/Telum II)에 대해 Z 아키텍처 지원을 활성화할 수 있습니다. Triton Inference Server는 Red Hat OpenShift AI의 기술 프리뷰 기능으로 IBM Z 아키텍처에서 런타임을 제공하는 사용자 지정 모델로 배포할 수 있습니다.

자세한 내용은 IBM Z accelerated Triton Inference Server 에서 참조하십시오.

IBM gRPCre AI Accelerator와 함께 제공되는 모델은 IBM Z 플랫폼의 GA(GA) 기능으로 제공됩니다.

IBM Cryostatre Operator는 설치를 자동화하고 장치 플러그인, 보조 스케줄러 및 모니터링과 같은 주요 구성 요소를 통합합니다.

자세한 내용은 IBM Cryostatre Operator 카탈로그 항목: IBM Cryostatre Operator - Red Hat Ecosystem Catalog 에서 참조하십시오.

OpenShift AI 3.0에는 AI 모델 준비, 미세 조정 및 배포 프로세스를 간소화하고 개선하는 모델 사용자 지정 구성 요소 제품군이 도입되었습니다.

이제 다음 구성 요소를 사용할 수 있습니다.