2장. 모델 업데이트
Red Hat Enterprise Linux AI를 사용하면 로컬에서 모델의 최신 버전으로 다운로드한 Cryostat를 업그레이드할 수 있습니다.
| 모델 | 설명 | 버전이 도입됨 | NVIDIA | AMD | Intel |
|---|---|---|---|---|---|
|
| 사용자 정의 및 미세 조정을 위한 Granite 3.1 기본 모델의 버전 2 | 1.5.1 | 기본 | 기본 | 사용할 수 없음 |
|
| 추론을 위한 Granite 3.1 모델의 버전 2 | 1.5.1 | 기본 | 기본 | 사용할 수 없음 |
|
| 사용자 정의 및 미세 조정을 위한 Granite 3.1 기본 모델의 버전 2 | 1.5 | Available | Available | 기본 |
|
| 추론을 위한 Granite 3.1 모델의 버전 2 | 1.5.1 | Available | Available | 기본 |
2.1. 모델 업데이트 링크 복사링크가 클립보드에 복사되었습니다!
RHEL AI 툴 세트를 사용하여 로컬 모델을 최신 버전의 모델로 업그레이드할 수 있습니다.
사전 요구 사항
- 부팅 가능한 컨테이너 이미지와 함께 InstructLab 툴을 설치했습니다.
-
InstructLab을 초기화하고
ilabCLI를 사용할 수 있습니다. - Red Hat Enterprise Linux AI에서 Cryostat를 다운로드했습니다.
- Red Hat 레지스트리 계정을 생성하고 시스템에 로그인했습니다.
프로세스
다음 명령을 실행하여 모델을 업그레이드할 수 있습니다.
ilab model download --repository <repository_and_model> --release latest
$ ilab model download --repository <repository_and_model> --release latestCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음과 같습니다.
- <repository_and_model>
-
모델의 리포지토리 위치 및 모델의 리포지토리 위치를 지정합니다.
registry.redhat.io/rhelai1/리포지토리에서 모델에 액세스할 수 있습니다. - <release>
-
모델의 버전을 지정합니다.
최신버전의 모델을 위해 최신 버전 또는 특정 버전으로 설정합니다.
검증
다음 명령을 사용하여 시스템에서 다운로드한 모든 모델을 볼 수 있습니다.
ilab model list
$ ilab model listCopy to Clipboard Copied! Toggle word wrap Toggle overflow