第2章 Red Hat Enterprise Linux AI 製品アーキテクチャー
Red Hat Enterprise Linux AI にはさまざまな独自の機能が含まれており、次のコンポーネントで構成されています。
2.1. InstructLab で起動可能な Red Hat Enterprise Linux リンクのコピーリンクがクリップボードにコピーされました!
RHEL AI をインストールし、Red Hat が提供する起動可能な RHEL コンテナーイメージを使用して InstructLab ツールをデプロイできます。
この RHEL AI イメージには、InstructLab、RHEL 9.4、vLLM や DeepSpeed などのさまざまな推論およびトレーニングソフトウェアが含まれています。このイメージを起動したら、Red Hat および IBM が開発したさまざまな Granite モデルをダウンロードして、提供またはトレーニングできます。イメージとすべてのツールは、特定の独立系ソフトウェアベンダー (ISV) ハードウェアに合わせてコンパイルされます。イメージのアーキテクチャーの詳細は、インストールの概要 を参照してください。
2.1.1. InstructLab モデルの配置 リンクのコピーリンクがクリップボードにコピーされました!
Red Hat Enterprise Linux AI 起動可能イメージには、InstructLab とそのツールが含まれています。InstructLab は、LAB (Large-Scale Alignment for ChatBots) と呼ばれる LLM のファインチューニングに対する新しいアプローチを使用します。LAB メソッドは、高品質の合成データ生成 (SDG) と複数フェーズトレーニングを実装するタクソノミーベースのシステムを使用します。
InstructLab CLI から構築された RHEL AI コマンドラインインターフェイス (CLI) を使用すると、独自のドメイン固有のナレッジから生成された合成データに基づいて Granite ベースモデルを調整することにより、独自のカスタム LLM を作成できます。
一般公開の場合、RHEL AI LLM のカスタマイズワークフローは次の手順で構成されます。
- 優先プラットフォームに RHEL AI をインストールして初期化します。
- CLI と Git ワークフローを使用して、タクソノミーツリーにスキルとナレッジを追加します。
-
mixtral-8x7B-Instruct教師モデルを使用して合成データ生成 (SDG) を実行します。SDG は、ユーザーが提供する特定のサンプルに基づいて、モデル調整用の何百、何千もの合成質問と回答のペアを生成できます。 -
InstructLab を使用して、新しく合成生成されたデータでベースモデルをトレーニングします。
prometheus-8x7B-V2.0ジャッジモデルは、新しくトレーニングされたモデルのパフォーマンスを評価します。 - InstructLab を vLLM と組み合わせて使用し、推論用の新しいカスタムモデルを提供します。
2.1.2. Granite モデル リンクのコピーリンクがクリップボードにコピーされました!
RHEL AI を使用すると、オープンソースライセンスの IBM Granite ファミリーの LLM をダウンロードできます。
スターター Granite モデルをベースとして使用し、ナレッジまたはスキルデータを使用してモデルを作成できます。これらのカスタム LLM を非公開にすることも、AI コミュニティーと共有することもできます。
Red Hat Enterprise Linux AI を使用すると、Red Hat と IBM により作成およびファインチューニングされた Granite モデルを使用したサービングやチャットも可能になります。