第1章 LAB-tuning の有効化の概要


重要

LAB チューニングは現在、Red Hat OpenShift AI 2.23 でテクノロジープレビュー機能として利用できます。テクノロジープレビュー機能は、Red Hat 製品のサービスレベルアグリーメント (SLA) の対象外であり、機能的に完全ではないことがあります。Red Hat では、実稼働環境での使用を推奨していません。テクノロジープレビュー機能は、最新の製品機能をいち早く提供して、開発段階で機能のテストを行いフィードバックを提供していただくことを目的としています。

Red Hat のテクノロジープレビュー機能のサポート範囲に関する詳細は、テクノロジープレビュー機能のサポート範囲 を参照してください。

データサイエンティストは、OpenShift AI の LAB-tuning を使用して、大規模言語モデル (LLM) をカスタマイズするためのエンドツーエンドのワークフローを実行できます。LAB (Large-scale Alignment for chatBots) メソッドは、タクソノミーガイドによる合成データ生成 (SDG) と多段階のトレーニングプロセスを組み合わせて使用することで、従来のファインチューニングに代わるより効率的な方法を提供します。事前設定された InstructLab パイプラインを使用して、OpenShift AI ダッシュボードから LAB-tuning ワークフローを直接起動できるため、チューニングプロセスが簡素化されます。

LAB-tuning は、モデルのカスタマイズをサポートするために連携して動作する複数の OpenShift AI コンポーネントに依存します。データサイエンスパイプラインを使用してチューニングワークフローを実行し、KServe を使用して教師モデルとジャッジモデルをデプロイおよび提供し、Training Operator を使用して GPU 対応ノード間で分散モデルトレーニングを実行します。LAB-tuning では、モデルバージョンの管理にモデルレジストリー、パイプラインアーティファクトとモデル出力を保存するストレージ接続 (S3 や OCI など)、トレーニングワークロードをスケジュールする GPU ハードウェアプロファイルも利用します。

LAB-tuning を有効にするには、OpenShift クラスター管理者が次のタスクを完了して、必要なインフラストラクチャーとプラットフォームコンポーネントを設定する必要があります。

  • 必要な Operator をインストールします。
  • 必要なコンポーネントをインストールします。
  • 動的プロビジョニングをサポートするストレージクラスを設定します。

クラスター管理者または OpenShift AI 管理者は、OpenShift AI ダッシュボード内で追加の設定を実行する必要があります。

  • LAB-tuning 機能をダッシュボードに表示します。
  • モデルレジストリーを作成します。
  • GPU ハードウェアプロファイルを作成します。

1.1. LAB-tuning の要件

  • クラスター管理者として OpenShift クラスターにアクセスできる。
  • OpenShift クラスターには、LAB-tuning プロセス用に 1 つの NVIDIA GPU (例: NVIDIA L40S 48 GB) を備えたノードが少なくとも 1 つある。分散 LAB-tuning ワークロードを実行するには、同じまたは異なるノード上に GPU が複数必要である。
  • 教師モデル (rhelai1/modelcar-mixtral-8x7b-instruct-v0-1:1.4) をデプロイするために、OpenShift クラスターには、モデルを実行できる 1 つまたは複数の GPU (たとえば、80 GB vRAM を備えた 4 x NVIDIA A100 を含む a2-ultragpu-4g) を備えたワーカーノードがあり、モデルを保存するために少なくとも空き容量が 100 GiB のディスクストレージがある。
  • ジャッジモデル (rhelai1/modelcar-prometheus-8x7b-v2-0:1.4) をデプロイするために、OpenShift クラスターには、このモデルを実行できる 1 つまたは複数の GPU (たとえば、80 GB vRAM を備えた 2 x NVIDIA A100 を含む a2-ultragpu-2g) を備えたワーカーノードがあり、モデルを保存するために少なくとも空き容量が 100 GiB のディスクストレージがある。
  • ご使用の環境において、必要な Operator をインストールし、必要なコンポーネント、ストレージ、モデルレジストリー、および GPU ハードウェアプロファイルを使用するための前提条件を満たしている。
トップに戻る
Red Hat logoGithubredditYoutubeTwitter

詳細情報

試用、購入および販売

コミュニティー

Red Hat ドキュメントについて

Red Hat をお使いのお客様が、信頼できるコンテンツが含まれている製品やサービスを活用することで、イノベーションを行い、目標を達成できるようにします。 最新の更新を見る.

多様性を受け入れるオープンソースの強化

Red Hat では、コード、ドキュメント、Web プロパティーにおける配慮に欠ける用語の置き換えに取り組んでいます。このような変更は、段階的に実施される予定です。詳細情報: Red Hat ブログ.

会社概要

Red Hat は、企業がコアとなるデータセンターからネットワークエッジに至るまで、各種プラットフォームや環境全体で作業を簡素化できるように、強化されたソリューションを提供しています。

Theme

© 2025 Red Hat