업데이트
RHEL AI 시스템 및 모델 업그레이드
초록
1장. Red Hat Enterprise Linux AI 업데이트 링크 복사링크가 클립보드에 복사되었습니다!
Red Hat Enterprise Linux AI를 사용하면 인스턴스를 업데이트할 수 있으므로 최신 버전의 RHEL AI 및 InstructLab을 사용할 수 있습니다.
1.1. RHEL AI 인스턴스 업데이트 링크 복사링크가 클립보드에 복사되었습니다!
최신 버전의 RHEL AI 및 InstructLab를 사용하도록 인스턴스를 업데이트할 수 있습니다.
사전 요구 사항
- 지원되는 플랫폼 중 하나에 Red Hat Enterprise Linux AI 인스턴스를 설치하고 배포했습니다.
- Red Hat 레지스트리 계정을 생성하셨습니다.
- 시스템에서 root 사용자 액세스 권한이 있어야 합니다.
프로세스
podman명령을 사용하여 Red Hat 레지스트리 계정에 로그인합니다.$ sudo podman login registry.redhat.io --username <user-name> --password <user-password> --authfile /etc/ostree/auth.json또는
skopeo명령을 사용하여 로그인할 수 있습니다.$ sudo skopeo login registry.redhat.io --username <user-name> --password <user-password> --authfile /etc/ostree/auth.jsonRed Hat Enterprise Linux AI의 마이너 버전으로 업그레이드
머신 하드웨어에 대한
bootc이미지를 사용하여 최신 버전의 Red Hat Enterprise Linux AI를 사용하도록 인스턴스를 업그레이드할 수 있습니다.$ sudo bootc switch registry.redhat.io/rhelai1/bootc-<hardware-vendor>-rhel9:<rhel-ai-version>다음과 같습니다.
- <hardware-vendor>
-
가속기의 하드 영역 공급 업체를 지정합니다. 유효한 값은
nvidia,amd,intel입니다. - <rhel-ai-version>
업그레이드할 RHEL AI 버전을 지정합니다.
NVIDIA 액셀러레이터가 있는 머신의 명령 예
$ sudo bootc switch registry.redhat.io/rhelai1/bootc-nvidia-rhel9:1.4
다음 명령을 실행하여 시스템을 다시 시작합니다.
$ sudo reboot -n중요RHEL AI 버전 1.4로 업그레이드할 때 다시 시작하기 전에
/etc/skel/.config/containers/storage.conf스토리지 구성을 <user-home>/.config/containers/storage.conf홈 디렉터리에 복사해야 합니다.예를 들면 다음과 같습니다.
$ cp /etc/skel/.config/containers/storage.conf <user-home>/.config/containers/storage.con
Red Hat Enterprise Linux AI의 z-stream 버전으로 업그레이드
z-stream이 있는 경우 다음 명령을 실행하여 시스템을 RHEL AI의 z-stream 버전으로 업그레이드할 수 있습니다.
$ sudo bootc upgrade --apply
최신 RHEL AI 버전으로 업그레이드한 후 환경과 구성을 다시 초기화하는 것이 좋습니다.
주의ilab config init명령은 기존config.yaml파일을 재정의하고 시스템 하드웨어에 따라 기본 구성으로 설정합니다.config.yaml파일을 사용자 지정한 경우 사용자 지정 구성을 다시 초기화하기 전에 숙지해야 합니다.$ ilab config init
2장. 모델 업데이트 링크 복사링크가 클립보드에 복사되었습니다!
Red Hat Enterprise Linux AI를 사용하면 로컬에서 모델의 최신 버전으로 다운로드한 Cryostat를 업그레이드할 수 있습니다.
| 기능 | 설명 | 버전이 도입됨 | NVIDIA | AMD |
|---|---|---|---|---|
|
| 사용자 정의 및 미세 튜닝을 위한 Granite student 모델 | 1.3 | 일반적으로 사용 가능 | 기술 프리뷰 |
|
| 추론을 위한 Granite 모델 | 1.3 | 일반적으로 사용 가능 | 기술 프리뷰 |
|
| 추론 서비스를 위한 버전 2 8b Granite 모델의 프리뷰 | 1.3 | 기술 프리뷰 | 기술 프리뷰 |
|
| 사용자 정의 및 미세 조정을 위한 Granite 3.1 기본 모델의 버전 1 | 1.4 | 일반적으로 사용 가능 | 기술 프리뷰 |
|
| 추론을 위한 Granite 3.1 모델의 버전 1 | 1.4 | 일반적으로 사용 가능 | 기술 프리뷰 |
2.1. 모델 업데이트 링크 복사링크가 클립보드에 복사되었습니다!
RHEL AI 툴 세트를 사용하여 로컬 모델을 최신 버전의 모델로 업그레이드할 수 있습니다.
사전 요구 사항
- 부팅 가능한 컨테이너 이미지와 함께 InstructLab 툴을 설치했습니다.
-
InstructLab을 초기화하고
ilabCLI를 사용할 수 있습니다. - Red Hat Enterprise Linux AI에서 Cryostat를 다운로드했습니다.
- Red Hat 레지스트리 계정을 생성하고 시스템에 로그인했습니다.
프로세스
다음 명령을 실행하여 모델을 업그레이드할 수 있습니다.
$ ilab model download --repository <repository_and_model> --release latest다음과 같습니다.
- <repository_and_model>
-
모델의 리포지토리 위치 및 모델의 리포지토리 위치를 지정합니다.
registry.redhat.io/rhelai1/리포지토리에서 모델에 액세스할 수 있습니다. - <release>
-
모델의 버전을 지정합니다.
최신버전의 모델을 위해 최신 버전 또는 특정 버전으로 설정합니다.
검증
다음 명령을 사용하여 시스템에서 다운로드한 모든 모델을 볼 수 있습니다.
$ ilab model list