2.2. 기능 개선
- OAuth 프록시 사이드카 리소스 할당 사용자 정의 지원
이제 워크벤치 Pod에서 OAuth 프록시 사이드카에 대한 CPU 및 메모리 요청 및 제한을 사용자 지정할 수 있습니다. 이렇게 하려면 노트북 사용자 정의 리소스(CR)에 다음 주석 중 하나 이상을 추가합니다.
-
notebooks.opendatahub.io/auth-sidecar-cpu-request -
notebooks.opendatahub.io/auth-sidecar-memory-request -
notebooks.opendatahub.io/auth-sidecar-cpu-limit notebooks.opendatahub.io/auth-sidecar-memory-limit이러한 주석을 지정하지 않으면 사이드카는 기본값 100m CPU 및 64Mi 메모리를 사용하여 이전 버전과의 호환성을 유지합니다. 주석을 추가하거나 수정한 후 새 리소스 할당을 적용하려면 워크벤치를 다시 시작해야 합니다.
주석 값은 Kubernetes 리소스 단위 규칙을 따라야 합니다. 자세한 내용은 Kubernetes의 리소스 단위를 참조하십시오.
-
- 향상된 워크벤치 인증
-
OpenShift AI에서 Workbench 인증이 더 원활하게 제공됩니다. 새 워크벤치를 생성하면 조정기에서 필요한
OAuthClient를 자동으로 생성하여oauth-proxy컨테이너에 권한을 수동으로 부여할 필요가 없습니다.
- 유연한 스토리지 클래스 관리 지원
- 이번 릴리스에서는 OpenShift AI의 프로젝트 또는 워크벤치에 클러스터 스토리지를 추가할 때 스토리지 클래스에 대해 지원되는 액세스 모드를 선택할 수 있습니다. 이번 개선된 기능을 통해 지원되지 않는 스토리지 클래스 또는 잘못된 액세스 모드 가정으로 인한 배포 문제가 제거됩니다.
- Grace Hopper Arm 플랫폼에서 배포 지원
- OpenShift AI는 이제 Grace Hopper Arm 플랫폼에 배포할 수 있습니다. 이번 개선된 기능을 통해 x86 아키텍처 이외의 하드웨어 호환성이 확장되므로 ARM 기반 NVIDIA Grace Hopper 시스템에 워크로드를 배포하고 실행할 수 있습니다. 이러한 시스템은 AI 및 머신 러닝 워크로드를 위한 확장 가능하고 전력 효율적이며 고성능 환경을 제공합니다.
현재 다음 구성 요소 및 이미지 변형을 사용할 수 없습니다.
-
pytorch및pytorch+llmcompressor워크벤치 및 파이프라인 런타임 이미지 - CUDA-accelerated Kubeflow 교육 이미지
-
fms-hf-tuning이미지
- Kubernetes API를 사용하여 파이프라인 정의 및 관리
이제 Kubernetes API를 사용하여 데이터 정보 파이프라인 및 파이프라인 버전을 정의하고 관리할 수 있으며 이를 내부 데이터베이스 대신 클러스터에 사용자 지정 리소스로 저장할 수 있습니다. 이번 개선된 기능을 통해 OpenShift GitOps(Argo CD) 또는 유사한 툴을 사용하여 파이프라인을 관리하는 것이 쉬워지고 OpenShift AI 사용자 인터페이스, API 및
kfpSDK를 통해 이를 관리할 수 있습니다.기본적으로 활성화된 이 옵션은 파이프라인 서버를 만들거나 편집할 때 Kubernetes의 Store pipeline 정의로 구성할 수 있습니다. OpenShift AI 관리자 및 프로젝트 소유자는
spec.apiServer.pipelineStore필드를DSPA(DataSciencePipelinesApplication) 사용자 정의 리소스에서kubernetes또는database로 설정하여 이 옵션을 구성할 수도 있습니다. 자세한 내용은 Kubernetes API를 사용하여 파이프라인 정의를 참조하십시오.
- DSC(DataScienceCluster) 리소스를 사용하여 TrustyAI 글로벌 설정 구성에 대한 지원 추가
-
관리자는 DSC 인터페이스를 통해 LMEval의
allowOnline및allowCodeExecution와 같은 설정을 선언적으로 관리할 수 있으며 변경 사항은 TrustyAI Operator로 자동으로 전파됩니다. 이를 통해 TrustyAI 구성에 다른 OpenShift AI 구성 요소를 통합하고 수동 ConfigMap 편집 또는 Operator를 다시 시작할 필요가 없습니다.
- 원하지 않는 파일을 휴지통 디렉토리로 이동하기 위한 지원 추가
- 이제 원하는 파일을 이동 및 영구적으로 삭제하여 컨테이너 스토리지를 늘릴 수 있습니다. 이러한 파일을 삭제하려면 sendpyter 노트북 도구 모음에서 이동 아이콘을 클릭하고 휴지통 디렉토리를 탐색합니다. 영구적으로 삭제하려는 파일을 선택하고 삭제하여 전체 노트북 저장소를 방지합니다.
- 업데이트된 워크벤치 이미지
- 이제 새로운 워크벤치 이미지 세트를 사용할 수 있습니다. 사전 구축된 워크벤치 이미지 및 업그레이드된 패키지에는 데이터 분석 및 출시를 위한 Python 라이브러리 및 프레임워크, 컴퓨팅 집약적 작업 가속화를 위한 CUDA 및 ROCm 패키지가 포함됩니다. 또한 R Cryostat 및 코드-서버에 대한 런타임 및 업데이트된 IDE를 제공합니다.