第2章 モデルの更新
Red Hat Enterprise Linux AI を使用すると、ローカルにダウンロードした LLM を最新バージョンのモデルにアップグレードできます。
モデル | 説明 | 導入されたバージョン | NVIDIA | AMD | Intel |
---|---|---|---|---|---|
| カスタマイズとファインチューニングを行うための Granite 3.1 ベースモデルのバージョン 2 | 1.5.1 | Default | Default | 利用不可 |
| 推論提供のための Granite 3.1 モデルのバージョン 2 | 1.5.1 | Default | Default | 利用不可 |
| カスタマイズとファインチューニングを行うための Granite 3.1 ベースモデルのバージョン 2 | 1.5 | 利用可能 | 利用可能 | Default |
| 推論提供のための Granite 3.1 モデルのバージョン 2 | 1.5.1 | 利用可能 | 利用可能 | Default |
2.1. モデルの更新 リンクのコピーリンクがクリップボードにコピーされました!
RHEL AI ツールセットを使用して、ローカルモデルを最新バージョンのモデルにアップグレードできます。
前提条件
- 起動可能なコンテナーイメージを使用して InstructLab ツールをインストールしている。
-
InstructLab を初期化し、
ilab
CLI を使用できる。 - Red Hat Enterprise Linux AI で LLM をダウンロードしている。
- Red Hat レジストリーアカウントを作成し、マシンにログインしている。
手順
次のコマンドを実行して、任意のモデルをアップグレードできます。
ilab model download --repository <repository_and_model> --release latest
$ ilab model download --repository <repository_and_model> --release latest
Copy to Clipboard Copied! Toggle word wrap Toggle overflow ここでは、以下のようになります。
- <repository_and_model>
-
モデルとモデルのリポジトリーのロケーションを指定します。モデルには、
registry.redhat.io/rhelai1/
リポジトリーからアクセスできます。 - <release>
-
モデルのバージョンを指定します。モデルの最新バージョンを指定する場合は
latest
に設定します。またはモデルの特定のバージョンを設定します。
検証
次のコマンドを使用すると、システムにダウンロードされたすべてのモデルを表示できます。
ilab model list
$ ilab model list
Copy to Clipboard Copied! Toggle word wrap Toggle overflow