第1章 LAB-tuning の有効化の概要

データサイエンティストは、OpenShift AI の LAB-tuning を使用して、大規模言語モデル (LLM) をカスタマイズするためのエンドツーエンドのワークフローを実行できます。LAB (Large-scale Alignment for chatBots) メソッドは、タクソノミーガイドによる合成データ生成 (SDG) と多段階のトレーニングプロセスを組み合わせて使用することで、従来のファインチューニングに代わるより効率的な方法を提供します。事前設定された InstructLab パイプラインを使用して、OpenShift AI ダッシュボードから LAB-tuning ワークフローを直接起動できるため、チューニングプロセスが簡素化されます。

LAB-tuning は、モデルのカスタマイズをサポートするために連携して動作する複数の OpenShift AI コンポーネントに依存します。データサイエンスパイプラインを使用してチューニングワークフローを実行し、KServe を使用して教師モデルとジャッジモデルをデプロイおよび提供し、Training Operator を使用して GPU 対応ノード間で分散モデルトレーニングを実行します。LAB-tuning では、モデルバージョンの管理にモデルレジストリー、パイプラインアーティファクトとモデル出力を保存するストレージ接続 (S3 や OCI など)、トレーニングワークロードをスケジュールする GPU ハードウェアプロファイルも利用します。

LAB-tuning を有効にするには、OpenShift クラスター管理者が次のタスクを完了して、必要なインフラストラクチャーとプラットフォームコンポーネントを設定する必要があります。

クラスター管理者または OpenShift AI 管理者は、OpenShift AI ダッシュボード内で追加の設定を実行する必要があります。