1.2. 新機能および機能拡張

ilab config init コマンドを実行して、RHEL AI 環境を初期化して設定できます。このコマンドは、RHEL AI と対話し、モデルを微調整するために必要な設定を作成します。また、データファイル用の適切なディレクトリーも作成します。InstructLab の初期化の詳細は、InstructLab の初期化 ドキュメントを参照してください。

Red Hat が提供するさまざまな大規模言語モデル (LLM) を RHEL AI マシンまたはインスタンスにダウンロードできます。Red Hat レジストリーアカウントを作成してログインすると、Red Hat レジストリーからこれらのモデルをダウンロードできます。サポートされている RHEL AI LLM の詳細については、モデルのダウンロード のドキュメントと、「Large Language Models (LLM) テクノロジープレビューステータス」を参照してください。

Red Hat Enterprise Linux AI バージョン 1.4 では、さまざまな LLM 上で vLLM 推論サービングを実行できます。vLLM ツールは、LLM 用のメモリー効率の高い推論およびサービスエンジンライブラリーで、RHEL AI イメージに含まれています。モデルのサービングとモデルとのチャットの詳細は、モデルのサービング (提供) およびモデルとのチャット ドキュメントを参照してください。

Red Hat Enterprise Linux AI には、LAB で強化された合成データ生成 (SDG) メソッドが含まれています。独自のナレッジデータを含む qna.yaml ファイルを使用して、SDG プロセスで何百もの人工データセットを作成できます。SDG プロセスの実行の詳細は、合成データ生成 (SDG) による新しいデータセットの生成 を参照してください。

Red Hat Enterprise Linux AI には、LAB で強化されたマルチフェーズトレーニングメソッドが含まれています。これは、データセットを複数のフェーズでトレーニングおよび評価して、可能な限り最適なモデルを作成する微調整ストラテジーです。複数フェーズトレーニングの詳細は、モデルでのデータのトレーニング を参照してください。

Red Hat Enterprise Linux AI には、新しくトレーニングされたモデルに対してベンチマーク評価を実行する機能が含まれています。トレーニング済みのモデルでは、MMLU_BRANCH または MT_BENCH_BRANCH ベンチマークを使用して、追加したナレッジやスキルをモデルがどの程度理解しているかを評価できます。ベンチマーク評価の詳細は、新しいモデルの評価 を参照してください。