Dieser Inhalt ist in der von Ihnen ausgewählten Sprache nicht verfügbar.

Chapter 2. Updating a model


Red Hat Enterprise Linux AI allows you to upgrade LLMs that you locally downloaded to the latest version of the model.

Expand
Table 2.1. RHEL AI version 1.5 LLM support
ModelDescriptionVersion introducedNVIDIAAMDIntel

granite-3.1-8b-starter-v2.1

Version 2 of the Granite 3.1 base model for customizing and fine-tuning

1.5.1

Default

Default

Not available

granite-3.1-8b-lab-v2.1

Version 2 of the Granite 3.1 model for inference serving

1.5.1

Default

Default

Not available

granite-3.1-8b-starter-v2

Version 2 of the Granite 3.1 base model for customizing and fine-tuning

1.5

Available

Available

Default

granite-3.1-8b-lab-v2

Version 2 of the Granite 3.1 model for inference serving

1.5.1

Available

Available

Default

2.1. Updating the models

You can upgrade your local models to the latest version of the model using the RHEL AI tool set.

Prerequisites

  • You installed the InstructLab tools with the bootable container image.
  • You initialized InstructLab and can use the ilab CLI.
  • You downloaded LLMs on Red Hat Enterprise Linux AI.
  • You created a Red Hat registry account and logged in on your machine.

Procedure

  1. You can upgrade any model by running the following command.

    $ ilab model download --repository <repository_and_model> --release latest
    Copy to Clipboard Toggle word wrap

    where:

    <repository_and_model>
    Specifies the repository location of the model as well as the model. You can access the models from the registry.redhat.io/rhelai1/ repository.
    <release>
    Specifies the version of the model. Set to latest, or a specific version of the model, for the most up to date version of the model.

Verification

  1. You can view all the downloaded models on your system with the following command:

    $ ilab model list
    Copy to Clipboard Toggle word wrap
Nach oben
Red Hat logoGithubredditYoutubeTwitter

Lernen

Testen, kaufen und verkaufen

Communitys

Über Red Hat Dokumentation

Wir helfen Red Hat Benutzern, mit unseren Produkten und Diensten innovativ zu sein und ihre Ziele zu erreichen – mit Inhalten, denen sie vertrauen können. Entdecken Sie unsere neuesten Updates.

Mehr Inklusion in Open Source

Red Hat hat sich verpflichtet, problematische Sprache in unserem Code, unserer Dokumentation und unseren Web-Eigenschaften zu ersetzen. Weitere Einzelheiten finden Sie in Red Hat Blog.

Über Red Hat

Wir liefern gehärtete Lösungen, die es Unternehmen leichter machen, plattform- und umgebungsübergreifend zu arbeiten, vom zentralen Rechenzentrum bis zum Netzwerkrand.

Theme

© 2025 Red Hat