第1章 インストールの概要
Red Hat Enterprise Linux AI は、起動可能なイメージとして配布およびインストール可能です。この起動可能なイメージには、RHEL AI 用のさまざまなソフトウェアとツールを保持するコンテナーが含まれています。各イメージは、特定のハードウェアベンダーをサポートするようにコンパイルされます。各 RHEL AI イメージには以下が含まれます。
- Red Hat Enterprise Linux 9.4: マシン用の RHEL バージョン 9.4 オペレーティングシステム (OS)。
InstructLab コンテナー: InstructLab と RHEL AI には、他にも必要なさまざまなツールが含まれています。ここでは、以下の点を説明します。
- Python バージョン 3.11: InstructLab が内部で使用する Python 3.11 インストール。
InstructLab ツール:
- InstructLab コマンドラインインターフェイス (CLI)。
- 合成データ生成 (SDG) の LAB 強化手法。
- 複数フェーズトレーニングの LAB で強化された手法。
- InstructLab with vLLM: 大規模言語モデル (LLM) 用の高入力推論およびサービングエンジン。
- InstructLab with DeepSpeed: トレーニングプロセスを高速化するハードウェア最適化ソフトウェア。FSDP と同様の機能。
- InstructLab with FSDP: トレーニングをより迅速かつ効率的にするトレーニングフレームワーク。DeepSpeed と同様の機能
Red Hat Enterprise Linux AI バージョン 1.5 には、ダウンロードしてモデルのトレーニングに使用できるサンプルのスキルとナレッジを含むサンプルのタクソノミーツリーも含まれています。
一般公開のバージョンでは、Red Hat Enterprise Linux AI をインストールおよびデプロイするためのオプションが 3 つあります。
Red Hat Enterprise Linux AI の一般公開バージョンをインストールしたら、チャットや対話ができるオープンソースの Granite LLM を手動でダウンロードできます。これらのモデルのダウンロードの詳細は、追加モデルのダウンロード を参照してください。