Red Hat Summit 红帽全球峰会支持控制台（Console）开发人员开始试用联系人

第 2 章 更新模型

Red Hat Enterprise Linux AI 允许您在本地将 LLM 下载到最新版本的模型。

表 2.1. RHEL AI 版本 1.5 LLM 支持
model描述引入了的版本NVIDIAAMDIntel

granite-3.1-8b-starter-v2.1

用于自定义和微调的 Granite 3.1 基本模型的版本 2

1.5.1

default

default

不可用

granite-3.1-8b-lab-v2.1

用于 inference 服务的 Granite 3.1 模型的版本 2

1.5.1

default

default

不可用

granite-3.1-8b-starter-v2

用于自定义和微调的 Granite 3.1 基本模型的版本 2

1.5

可用

可用

default

granite-3.1-8b-lab-v2

用于 inference 服务的 Granite 3.1 模型的版本 2

1.5.1

可用

可用

default

2.1. 更新模型

您可以使用 RHEL AI 工具集将本地模型升级到最新版本。

先决条件

  • 已使用可引导容器镜像安装了 InstructLab 工具。
  • 您初始化了 InstructLab，可以使用 ilab CLI。
  • 您在 Red Hat Enterprise Linux AI 上下载了 LLM。
  • 您创建了红帽 registry 帐户并登录您的机器中。

流程

  1. 您可以运行以下命令来升级任何模型。 

    $ ilab model download --repository <repository_and_model> --release latest
    Copy to Clipboard

    其中：

    <repository_and_model>
    指定模型和模型的存储库位置。您可以从 registry.redhat.io/rhelai1/ 仓库访问模型。
    <release>
    指定模型的版本。为模型的最新版本，设置为 latest 或一个特定版本的模型。

验证

  1. 您可以使用以下命令查看系统中所有下载的模型： 

    $ ilab model list
    Copy to Clipboard
返回顶部
Red Hat logoGithubredditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务，以及可以信赖的内容，帮助红帽用户创新并实现他们的目标。 了解我们当前的更新.

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情，请参阅红帽博客.

關於紅帽

我们提供强化的解决方案，使企业能够更轻松地跨平台和环境（从核心数据中心到网络边缘）工作。

Theme

© 2025 Red Hat