更新
第 1 章 更新 Red Hat Enterprise Linux AI 复制链接链接已复制到粘贴板!
Red Hat Enterprise Linux AI 允许您更新您的实例,以便可以使用最新版本的 RHEL AI 和 InstructLab。
1.1. 更新 RHEL AI 实例 复制链接链接已复制到粘贴板!
您可以更新您的实例以使用最新版本的 RHEL AI 和 InstructLab
先决条件
- 您在其中一个支持的平台中安装并部署了 Red Hat Enterprise Linux AI 实例。
- 您创建了红帽 registry 帐户。
- 在机器上具有 root 用户访问权限。
流程
使用
podman命令登录到您的红帽 registry 帐户:sudo podman login registry.redhat.io --username <user-name> --password <user-password> --authfile /etc/ostree/auth.json
$ sudo podman login registry.redhat.io --username <user-name> --password <user-password> --authfile /etc/ostree/auth.jsonCopy to Clipboard Copied! Toggle word wrap Toggle overflow 或者您可以使用
skopeo命令登录:sudo skopeo login registry.redhat.io --username <user-name> --password <user-password> --authfile /etc/ostree/auth.json
$ sudo skopeo login registry.redhat.io --username <user-name> --password <user-password> --authfile /etc/ostree/auth.jsonCopy to Clipboard Copied! Toggle word wrap Toggle overflow 升级到 Red Hat Enterprise Linux AI 的次版本
您可以使用机器硬件的
bootc镜像升级实例以使用 Red Hat Enterprise Linux AI 的最新版本。sudo bootc switch registry.redhat.io/rhelai1/bootc-<hardware-vendor>-rhel9:<rhel-ai-version>
$ sudo bootc switch registry.redhat.io/rhelai1/bootc-<hardware-vendor>-rhel9:<rhel-ai-version>Copy to Clipboard Copied! Toggle word wrap Toggle overflow 其中
- <hardware-vendor>
-
为您的加速器指定硬性供应商。有效值包括:
nvidia、aumd 和intel。 - <rhel-ai-version>
指定要升级到的 RHEL AI 版本。
带有 NVIDIA 加速器的机器命令示例
sudo bootc switch registry.redhat.io/rhelai1/bootc-nvidia-rhel9:1.5
$ sudo bootc switch registry.redhat.io/rhelai1/bootc-nvidia-rhel9:1.5Copy to Clipboard Copied! Toggle word wrap Toggle overflow
运行以下命令重启您的系统:
sudo reboot -n
$ sudo reboot -nCopy to Clipboard Copied! Toggle word wrap Toggle overflow 重要当升级到 RHEL AI 版本 1.5 时,在重新初始化前,
/etc/skel/.config/containers/storage.conf存储配置需要复制到<user-home>/.config/containers/storage.conf主目录。例如:
cp /etc/skel/.config/containers/storage.conf <user-home>/.config/containers/storage.con
$ cp /etc/skel/.config/containers/storage.conf <user-home>/.config/containers/storage.conCopy to Clipboard Copied! Toggle word wrap Toggle overflow
升级到 Red Hat Enterprise Linux AI 的 z-stream 版本
如果存在 z-stream,您可以通过运行 folllowing 命令将系统升级到 RHEL AI 的 z-stream 版本:
sudo bootc upgrade --apply
$ sudo bootc upgrade --applyCopy to Clipboard Copied! Toggle word wrap Toggle overflow
建议您在升级到最新的 RHEL AI 版本后重新初始化您的环境和配置。
警告ilab config init命令覆盖现有的config.yaml文件,并将其设置为每个系统硬件的默认配置。如果自定义config.yaml文件,请确保在重新初始化前熟悉自定义配置。ilab config init
$ ilab config initCopy to Clipboard Copied! Toggle word wrap Toggle overflow
第 2 章 更新模型 复制链接链接已复制到粘贴板!
Red Hat Enterprise Linux AI 允许您在本地将 LLM 下载到最新版本的模型。
| model | 描述 | 引入了的版本 | NVIDIA | AMD | Intel |
|---|---|---|---|---|---|
|
| 用于自定义和微调的 Granite 3.1 基本模型的版本 2 | 1.5.1 | default | default | 不可用 |
|
| 用于 inference 服务的 Granite 3.1 模型的版本 2 | 1.5.1 | default | default | 不可用 |
|
| 用于自定义和微调的 Granite 3.1 基本模型的版本 2 | 1.5 | 可用 | 可用 | default |
|
| 用于 inference 服务的 Granite 3.1 模型的版本 2 | 1.5.1 | 可用 | 可用 | default |
2.1. 更新模型 复制链接链接已复制到粘贴板!
您可以使用 RHEL AI 工具集将本地模型升级到最新版本。
先决条件
- 已使用可引导容器镜像安装了 InstructLab 工具。
-
您初始化了 InstructLab,可以使用
ilabCLI。 - 您在 Red Hat Enterprise Linux AI 上下载了 LLM。
- 您创建了红帽 registry 帐户并登录您的机器中。
流程
您可以运行以下命令来升级任何模型。
ilab model download --repository <repository_and_model> --release latest
$ ilab model download --repository <repository_and_model> --release latestCopy to Clipboard Copied! Toggle word wrap Toggle overflow 其中:
- <repository_and_model>
-
指定模型和模型的存储库位置。您可以从
registry.redhat.io/rhelai1/仓库访问模型。 - <release>
-
指定模型的版本。为模型的最新版本,设置为
latest或一个特定版本的模型。
验证
您可以使用以下命令查看系统中所有下载的模型:
ilab model list
$ ilab model listCopy to Clipboard Copied! Toggle word wrap Toggle overflow