第2章 InstructLab の初期化
Red Hat Enterprise Linux AI モデルの使用を開始するには、InstructLab 環境を初期化する必要があります。
2.1. RHEL AI 環境の作成 リンクのコピーリンクがクリップボードにコピーされました!
InstructLab 環境を初期化することで、LLM モデルおよび RHEL AI ツールとの対話を開始できます。
AMD マシンのシステムプロファイルはテクノロジープレビュー機能としてのみご利用いただけます。テクノロジープレビュー機能は、Red Hat 製品のサービスレベルアグリーメント (SLA) の対象外であり、機能的に完全ではないことがあります。Red Hat は、実稼働環境でこれらを使用することを推奨していません。テクノロジープレビュー機能は、最新の製品機能をいち早く提供して、開発段階で機能のテストを行い、フィードバックを提供していただくことを目的としています。
Red Hat のテクノロジープレビュー機能のサポート範囲に関する詳細は、テクノロジープレビュー機能のサポート範囲 を参照してください。
前提条件
- 起動可能なコンテナーイメージを使用して RHEL AI をインストールしている。
- マシンの root ユーザーアクセス権がある。
手順
オプション: 次のコマンドを実行すると、マシンの情報を表示できます。
$ ilab system info次のコマンドを実行して InstructLab を初期化します。
$ ilab config initRHEL AI CLI は、環境と
config.yamlファイルのセットアップを開始します。CLI はマシンのハードウェアを自動的に検出し、GPU の種類に基づいてシステムプロファイルを選択します。システムプロファイルは、検出されたハードウェアに基づいて、config.yamlファイルに適切なパラメーター値を入力します。プロファイル自動検出の出力例
Generating config file and profiles: /home/user/.config/instructlab/config.yaml /home/user/.local/share/instructlab/internal/system_profiles/ We have detected the NVIDIA H100 X4 profile as an exact match for your system. -------------------------------------------- Initialization completed successfully! You're ready to start using `ilab`. Enjoy! --------------------------------------------CLI がシステムに完全に一致するものを検出しない場合は、プロンプトが表示されたら手動でシステムプロファイルを選択できます。システムに適したハードウェアベンダーと設定を選択します。
システムプロファイルの選択の出力例
Please choose a system profile to use. System profiles apply to all parts of the config file and set hardware specific defaults for each command. First, please select the hardware vendor your system falls into [0] NO SYSTEM PROFILE [1] NVIDIA Enter the number of your choice [0]: 4 You selected: NVIDIA Next, please select the specific hardware configuration that most closely matches your system. [0] No system profile [1] NVIDIA H100 X2 [2] NVIDIA H100 X8 [3] NVIDIA H100 X4 [4] NVIDIA L4 X8 [5] NVIDIA A100 X2 [6] NVIDIA A100 X8 [7] NVIDIA A100 X4 [8] NVIDIA L40S X4 [9] NVIDIA L40S X8 Enter the number of your choice [hit enter for hardware defaults] [0]: 3完了した
ilab config init実行の出力例You selected: /Users/<user>/.local/share/instructlab/internal/system_profiles/nvidia/H100/h100_x4.yaml -------------------------------------------- Initialization completed successfully! You're ready to start using `ilab`. Enjoy! --------------------------------------------2 つのスキルと 1 つのナレッジファイル
qna.yamlを含むスケルトンタクソノミーツリーを使用する場合は、次のコマンドを実行してスケルトンリポジトリーのクローンを作成し、taxonomyディレクトリーに配置します。rm -rf ~/.local/share/instructlab/taxonomy/ ; git clone https://github.com/RedHatOfficial/rhelai-sample-taxonomy.git ~/.local/share/instructlab/taxonomy/誤ったシステムプロファイルが自動検出された場合は、次のコマンドを実行できます。
$ ilab config init --profile <path-to-system-profile>ここでは、以下のようになります。
- <path-to-system-profile>
正しいシステムプロファイルへのパスを指定します。システムプロファイルは
~/.local/share/instructlab/internal/system_profilesパスにあります。プロファイル選択コマンドの例
$ ilab config init --profile ~/.local/share/instructlab/internal/system_profiles/amd/mi300x/mi300x_x8.yaml
InstructLab 環境のディレクトリー構造
├─ ~/.config/instructlab/config.yaml
├─ ~/.cache/instructlab/models/
├─ ~/.local/share/instructlab/datasets
├─ ~/.local/share/instructlab/taxonomy
├─ ~/.local/share/instructlab/phased/<phase1-or-phase2>/checkpoints/
- 1
~/.config/instructlab/config.yaml:config.yamlファイルが含まれます。- 2
~/.cache/instructlab/models/: RHEL AI で生成したモデルの保存出力など、ダウンロードされたすべての大規模言語モデルが含まれます。- 3
~/.local/share/instructlab/datasets/: タクソノミーリポジトリーへの変更に基づいて構築された、SDG フェーズからのデータ出力が含まれます。- 4
~/.local/share/instructlab/taxonomy/: スキルおよびナレッジのデータが含まれます。- 5
~/.local/share/instructlab/phased/<phase1-or-phase2>/checkpoints/: 複数フェーズのトレーニングプロセスの出力が含まれます。
検証
以下のコマンドを実行して、
config.yamlファイル全体を表示できます。$ ilab config show次のコマンドを実行して、
config.yamlファイルを手動で編集することもできます。$ ilab config edit