モデルレジストリーの使用
Red Hat OpenShift AI Self-Managed でのモデルレジストリーの使用
概要
はじめに リンクのコピーリンクがクリップボードにコピーされました!
OpenShift AI のデータサイエンティストは、モデルレジストリー機能を使用して、モデルの保存、共有、バージョン管理、デプロイ、追跡を実行できます。
第1章 モデルレジストリーとモデルカタログの概要 リンクのコピーリンクがクリップボードにコピーされました!
モデルレジストリーは、管理者とデータサイエンティストが AI モデルをデプロイメント用に設定する前に、AI モデルの登録、バージョン管理、ライフサイクル管理を行うための中央リポジトリーとして機能します。モデルレジストリーは、AI モデルガバナンスの重要なコンポーネントです。
モデルカタログは、データサイエンティストが利用可能な生成 AI モデルを検出して評価し、自身のユースケースに最適なものを見つけることができる、キュレートされたライブラリーを提供します。
1.1. モデルレジストリー リンクのコピーリンクがクリップボードにコピーされました!
モデルレジストリーは、人工知能/機械学習 (AI/ML) モデルのライフサイクルにおける重要なコンポーネントであり、あらゆる機械学習運用 (MLOps) プラットフォームまたはワークフローにとって不可欠な部分です。モデルレジストリーは、開発からデプロイメントまでの機械学習モデルに関連するメタデータを保存する中央リポジトリーとして機能します。このメタデータは、デプロイ環境やプロジェクトなどの概要から、トレーニングハイパーパラメーター、パフォーマンスメトリクス、デプロイイベントといった具体的な詳細まで多岐にわたります。
モデルレジストリーは、モデルの実験と提供の間の橋渡しとして機能し、ML ライフサイクルの関係者にセキュアで共同的なメタデータストアインターフェイスを提供します。モデルレジストリーは、モデルを保存、共有、バージョン管理、デプロイ、追跡するための構造化され整理された方法を提供します。
OpenShift AI 管理者は、OpenShift AI でモデルレジストリーを作成し、データサイエンティストにモデルレジストリーアクセスを許可できます。詳細は、モデルレジストリーの管理 を参照してください。
モデルレジストリーにアクセスできるデータサイエンティストは、これを使用してモデルを保存、共有、バージョン管理、デプロイ、追跡できます。詳細は、モデルレジストリーの使用 を参照してください。
1.2. モデルカタログ リンクのコピーリンクがクリップボードにコピーされました!
データサイエンティストは、モデルカタログを使用して、利用可能であり、かつ組織で登録、デプロイ、カスタマイズする準備が整っているモデルを検出し、評価することができます。
モデルカタログは、データサイエンティストがモデルレジストリーにモデルを登録してモデルサービングランタイムにデプロイする前に、検索および検出できるさまざまなプロバイダーのモデルを提供します。OpenShift AI 管理者は、モデルカタログに表示されるモデルに使用可能なリポジトリーソースを設定できます。
OpenShift AI は、Red Hat、IBM、Meta、Nvidia、Mistral AI、Google などのプロバイダーのモデルを含むデフォルトのモデルカタログを提供します。
データサイエンティストがモデルカタログを使用する方法の詳細は、モデルカタログの使用 を参照してください。
第2章 モデルレジストリーの使用 リンクのコピーリンクがクリップボードにコピーされました!
2.1. ダッシュボードからのモデル登録 リンクのコピーリンクがクリップボードにコピーされました!
データサイエンティストは、OpenShift AI ダッシュボードからモデルを登録し、新しいモデルの最初のバージョンを作成できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメント内の利用可能なモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、モデルを登録するモデルレジストリーを選択します。
Register model をクリックします。
Register model ダイアログが開きます。
Model details セクションで、モデルの全バージョンに適用する詳細を設定します。
- Model name フィールドに、モデルの名前を入力します。
- オプション: Model description フィールドに、モデルの説明を入力します。
Version details セクションに、モデルの最初のバージョンに適用する詳細を入力します。
- Version name フィールドに、モデルバージョンの名前を入力します。
- オプション: Version description フィールドに、モデルの最初のバージョンの説明を入力します。
-
Source model format フィールドに、モデル形式の名前 (例:
ONNX) を入力します。 - Source model format version フィールドに、モデル形式のバージョンを入力します。
Model location セクションで、オブジェクトストレージの詳細または URI を指定して、モデルの場所を指定します。
オブジェクトストレージの詳細を指定するには、Object storage ラジオボタンが選択されていることを確認します。
既存の接続の詳細を自動入力するには、次の手順を実行します。
- Autofill from connection をクリックします。
- Autofill from connection ダイアログが開きます。このダイアログで、Project ドロップダウンリストから、目的の接続を含むデータサイエンスプロジェクトを選択します。
Connection name ドロップダウンリストから、使用する接続を選択します。
このリストには、バケットを含むオブジェクトストレージタイプのみが含まれます。
- Autofill をクリックします。
または、オブジェクトストレージの詳細を手動で入力します。
- Endpoint フィールドに、S3 互換オブジェクトストレージバケットのエンドポイントを入力します。
- Bucket フィールドに、S3 互換のオブジェクトストレージバケットの名前を入力します。
- Region フィールドに、S3 互換オブジェクトストレージアカウントのリージョンを入力します。
- Path フィールドに、モデルまたはフォルダーへのパスを入力します。このパスは、ルートフォルダーを指すことはできません。
URI を指定するには、URI ラジオボタンが選択されていることを確認します。
URI フィールドに、モデルの URI を入力します。
重要URI を使用して登録されたモデルのデプロイメントは、現在、パブリック OCI リポジトリーでのみサポートされています。
- Register model をクリックします。
検証
- 新しいモデルとバージョンの詳細は、モデルバージョンの Details タブに表示されます。
- 新しいモデルとバージョンが Model registry ページに表示されます。
2.2. モデルカタログからのモデル登録 リンクのコピーリンクがクリップボードにコピーされました!
データサイエンティストは、モデルカタログから直接モデルを登録し、新しいモデルの最初のバージョンを作成できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメント内の利用可能なモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model catalog をクリックします。
ドロップダウンリストで、管理者によって設定された利用可能なカタログソースを選択します。デフォルトでは、Default Catalog が表示されます。
注記OpenShift クラスター管理者は、追加のモデルカタログソースを設定できます。詳細は、Kubeflow Model Registry コミュニティードキュメントの Configuring Catalog Sources を参照してください。
- 検索バーを使用してカタログ内のモデルを検索します。モデル名、説明、またはプロバイダーを入力して検索できます。
- Model details ページを表示するには、モデルの名前をクリックします。
- Register model をクリックします。
- Model registry ドロップダウンリストから、モデルを登録するモデルレジストリーを選択します。
Model details セクションで、モデルの全バージョンに適用する詳細を設定します。
- オプション: Model name フィールドで、モデルの名前を更新します。
- オプション: Model description フィールドで、モデルの説明を更新します。
Version details セクションに、モデルの最初のバージョンに適用する詳細を入力します。
- Version name フィールドに、モデルバージョンの名前を入力します。
- オプション: Version description フィールドに、モデルの最初のバージョンの説明を入力します。
-
Source model format フィールドに、モデル形式の名前 (例:
ONNX) を入力します。 - Source model format version フィールドに、モデル形式のバージョンを入力します。
- Model location セクションに、モデルの URI が表示されます。
- Register model をクリックします。
検証
- 新しいモデルの詳細とバージョンは、Model details ページの Overview タブに表示されます。
- 新しいモデルとバージョンが Model registry ページに表示されます。
2.3. モデルバージョンの登録 リンクのコピーリンクがクリップボードにコピーされました!
新しいモデルバージョンを登録できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメント内の利用可能なモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、モデルバージョンを登録するモデルレジストリーを選択します。
Model name 列で、新しいバージョンを登録するモデルの名前をクリックします。
モデルの詳細ページが開きます。
- Versions タブをクリックし、Register new version をクリックします。
Version details セクションで、モデルのこのバージョンに適用する詳細を入力します。
- Version name フィールドに、モデルバージョンの名前を入力します。
- オプション: Version description フィールドに、モデルのこのバージョンの説明を入力します。
-
Source model format フィールドに、モデル形式の名前 (例:
ONNX) を入力します。 - Source model format version フィールドに、モデル形式のバージョンを入力します。
Model location セクションで、オブジェクトストレージの詳細または URI を指定して、モデルの場所を指定します。
オブジェクトストレージの詳細を指定するには、Object storage ラジオボタンが選択されていることを確認します。
既存の接続の詳細を自動入力するには、次の手順を実行します。
- Autofill from connection をクリックします。
- Autofill from connection ダイアログが開きます。このダイアログで、Project ドロップダウンリストから、目的の接続を含むデータサイエンスプロジェクトを選択します。
Connection name ドロップダウンリストから、使用する接続を選択します。
このリストには、バケットを含むオブジェクトストレージタイプのみが含まれます。
- Autofill をクリックします。
または、オブジェクトストレージの詳細を手動で入力します。
- Endpoint フィールドに、S3 互換オブジェクトストレージバケットのエンドポイントを入力します。
- Bucket フィールドに、S3 互換のオブジェクトストレージバケットの名前を入力します。
- Region フィールドに、S3 互換オブジェクトストレージアカウントのリージョンを入力します。
- Path フィールドに、モデルまたはフォルダーへのパスを入力します。このパスは、ルートフォルダーを指すことはできません。
URI を指定するには、URI ラジオボタンが選択されていることを確認します。
URI フィールドに、モデルの URI を入力します。
重要URI を使用して登録されたモデルのデプロイメントは、現在、パブリック OCI リポジトリーでのみサポートされています。
- Register new version をクリックします。
検証
- 新しいモデルバージョンは、Model details ページの Overview タブの Latest versions セクションに表示されます。
- 新しいモデルバージョンは、Model registry ページの Latest version 列に表示されます。
2.4. 登録済みモデルの表示 リンクのコピーリンクがクリップボードにコピーされました!
OpenShift AI に登録されたモデルの詳細 (登録されたバージョン、デプロイメント、モデルに関連付けられたメタデータなど) を表示できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- 表示するモデルが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、表示するモデルが含まれているモデルレジストリーを選択します。
Model registry ページには、モデル名、最新バージョン、デプロイメント、ラベル、最終変更タイムスタンプ、各モデルの所有者など、登録済みのモデルの概要が表示されます。
デフォルトでは、モデルは 最終変更 タイムスタンプで並べ替えられます。
検索バーを使用してリスト内のモデルを検索します。デフォルトでは、モデル名、説明、またはラベルを入力することで、キーワードによるフィルタリングができます。または、検索バーのドロップダウンリストをクリックし、Owner を選択して、モデルの所有者を入力してフィルタリングすることもできます。
キーワードで検索すると、登録されているモデルとそのバージョンの名前、説明、ラベルで検索が実行されます。
モデルの詳細ページを表示するには、モデルの名前をクリックします。
- Overview タブでは、ラベル、説明、所有者、モデル ID、最終変更タイムスタンプと作成タイムスタンプ、カスタムプロパティーなどのモデルメタデータと、最新バージョンおよびデプロイメントを表示できます。
- Versions タブでは、モデルの登録済みバージョンを表示できます。
- Deployments タブでは、このモデルのモデルレジストリーから開始されたデプロイメントを表示できます。
検証
- モデルの詳細ページに、選択したモデルの情報が表示されます。
2.5. 登録済みモデルのバージョンを表示する リンクのコピーリンクがクリップボードにコピーされました!
OpenShift AI に登録されているモデルバージョンの詳細 (バージョンメタデータやデプロイメント情報など) を表示できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- 表示するモデルバージョンが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、表示するモデルバージョンが含まれているモデルレジストリーを選択します。
- モデルの名前をクリックすると、Model details ページの Overview タブが表示されます。ここには、最新のモデルバージョンとデプロイメントが含まれています。
Versions タブでは、モデルの登録済みバージョンを表示できます。
デフォルトでは、バージョンは 最終変更 タイムスタンプで並べ替えられます。
検索バーを使用してリスト内のバージョンを検索します。デフォルトでは、モデル名、説明、またはラベルを入力することで、キーワードによるフィルタリングができます。または、検索バーのドロップダウンリストをクリックして Author を選択し、モデルの所有者を入力してフィルタリングすることもできます。
キーワードで検索すると、登録されているモデルとそのバージョンの名前、説明、ラベルで検索が実行されます。
- Version details ページを表示するには、バージョンの名前をクリックします。
Details タブでは、ラベル、説明、カスタムプロパティー、バージョン ID、作成者、最終変更タイムスタンプと登録タイムスタンプなどの Version details メタデータを表示できます。これには、モデルの登録元、モデルの場所、モデル形式の情報も含まれます。
また、Model details をクリックすると、ラベル、説明、所有者、モデル ID、最終変更タイムスタンプと作成タイムスタンプ、カスタムプロパティーなどのバージョン以外のメタデータを表示することもできます。
Deployments タブでは、このバージョンのモデルレジストリーから開始されたデプロイメントを表示できます。
デプロイメントの名前をクリックしてメトリクスページを開きます。
シングルモデルサービングプラットフォーム上のモデルメトリクスの詳細は、デプロイされたモデルのパフォーマンスメトリクスの表示 を参照してください。マルチモデルサービングプラットフォームのモデルメトリクスの詳細は、マルチモデルサービングプラットフォームのモデルサービングランタイムメトリクスの表示 を参照してください。
検証
- 登録されたモデルバージョンの詳細は、Model registry ページで表示できます。
2.6. モデルレジストリー内のモデルメタデータの編集 リンクのコピーリンクがクリップボードにコピーされました!
モデルの説明、ラベル、カスタムプロパティーなど、OpenShift AI に登録されたモデルのメタデータを編集できます。モデルメタデータを編集すると、モデルのすべてのバージョンに影響します。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- 編集するモデルが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、編集するモデルが含まれているモデルレジストリーを選択します。
- Model registry ページには、モデル名、最新バージョン、デプロイメント、ラベル、最終変更タイムスタンプ、各モデルの所有者など、登録済みのモデルの概要が表示されます。
- Model details ページを表示するには、モデルの名前をクリックします。
Overview タブでは、モデルのメタデータを編集できます。
-
Labels セクションで、Edit をクリックして、モデルのラベル (例:
text-to-text) を編集します。 - Description セクションで、Edit をクリックしてモデルの説明を編集します。
Properties セクションで、Add property をクリックして、モデルに新しいプロパティーを追加します (例: Key:
license、Value:apache)。ヒントプロパティー値を URL として入力すると、クリック可能なリンクとして Properties セクションに表示されます (例: https://www.apache.org/licenses/LICENSE-2.0)。
- 既存のプロパティーを編集するには、プロパティーの横にあるアクションメニュー (⋮) をクリックし、Edit をクリックします。
- プロパティーを削除するには、プロパティーの横にあるアクションメニュー (⋮) をクリックし、Delete をクリックします。
-
Labels セクションで、Edit をクリックして、モデルのラベル (例:
検証
- モデルの詳細ページに更新されたメタデータが表示されます。
2.7. モデルレジストリー内のモデルバージョンメタデータの編集 リンクのコピーリンクがクリップボードにコピーされました!
バージョンの説明、ラベル、カスタムプロパティーなど、OpenShift AI に登録されているモデルバージョンのメタデータを編集できます。モデルバージョンメタデータの編集は、そのモデルバージョンにのみ影響します。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- 編集するモデルバージョンが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、編集するモデルバージョンが含まれているモデルレジストリーを選択します。
- Model details ページを表示するには、モデルの名前をクリックします。
- 利用可能なモデルバージョンを表示するには、Versions タブをクリックします。
- バージョン名をクリックすると、Version details ページが表示されます。
Version details セクションでは、バージョンのメタデータを編集できます。
-
Labels セクションで、Edit をクリックして、バージョンのラベル (例:
text-to-text) を編集します。 - Description セクションで、Edit をクリックしてバージョンの説明を編集します。
Properties セクションで、Add property をクリックして、バージョンに新しいプロパティーを追加します (例: Key:
license、Value:apache)。ヒントプロパティー値を URL として入力すると、クリック可能なリンクとして Properties セクションに表示されます (例: https://www.apache.org/licenses/LICENSE-2.0)。
- 既存のプロパティーを編集するには、プロパティーの横にあるアクションメニュー (⋮) をクリックし、Edit をクリックします。
- プロパティーを削除するには、プロパティーの横にあるアクションメニュー (⋮) をクリックし、Delete をクリックします。
-
Model format セクションで、Edit をクリックして、モデルバージョンの形式 (例:
ONNX) を編集します。 - Model format version セクションで、Edit をクリックして、モデルバージョンの形式バージョンを編集します。
-
Labels セクションで、Edit をクリックして、バージョンのラベル (例:
検証
- モデルバージョンの詳細ページに更新されたメタデータが表示されます。
2.8. モデルレジストリーからモデルバージョンをデプロイする リンクのコピーリンクがクリップボードにコピーされました!
登録済みモデルのバージョンをモデルレジストリーから直接デプロイできます。
前提条件
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- シングルモデルサービングプラットフォームを使用してモデルバージョンをデプロイするために、シングルモデルサービングプラットフォームへのモデルのデプロイ で説明されている前提条件を満たしている。
- マルチモデルサービングプラットフォームを使用してモデルバージョンをデプロイするために、マルチモデルサービングプラットフォームを使用したモデルのデプロイ で説明されている前提条件を満たしている。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、モデルバージョンをデプロイするモデルレジストリーを選択します。
Model name 列で、デプロイするバージョンが含まれているモデルの名前をクリックします。
モデルバージョンの詳細ページが開きます。
- デプロイするモデルバージョンの横にあるアクションメニュー (⋮) をクリックします。
- Deploy をクリックします。
Deploy model ダイアログで、モデルをデプロイするためのプロパティーを設定します。
- Project ドロップダウンリストで、ターゲットプロジェクトを選択します。
- Deploy をクリックします。
モデルをデプロイするには、次のプロパティーを設定します。
- Project ドロップダウンリストで、モデルをデプロイするプロジェクトを選択します。
オプション: Model deployment name フィールドに、モデルデプロイメントの一意の名前を入力します。このフィールドには、デフォルトでモデル名を含む値が自動入力されます。
これは、モデルがデプロイされたときに作成される推論サービスの名前になります。
マルチモデルサービングプラットフォームを使用したモデルのデプロイ または シングルモデルサービングプラットフォームへのモデルのデプロイ の説明に従って、モデルをデプロイするための残りのプロパティーを設定します。
- Deploy をクリックします。
検証
- モデルデプロイメントは、Models → Model Deployments ページに表示されます。
- モデルのデプロイメントは、Model details ページの Latest deployments セクションに表示されます。
- モデルバージョンは、モデルの Deployments タブに表示されます。
- モデルバージョンのデプロイメントを編集するには、その横にあるアクションメニュー (⋮) をクリックし、Edit をクリックします。
- モデルバージョンのデプロイメントを削除するには、その横にあるアクションメニュー (⋮) をクリックし、Delete をクリックします。
2.9. モデルカタログからのモデルのデプロイ リンクのコピーリンクがクリップボードにコピーされました!
モデルカタログから直接モデルをデプロイできます。
OpenShift AI モデルサービングデプロイメントでは、グローバルクラスタープルシークレットを使用して、カタログから ModelCar 形式のモデルをプルします。
OpenShift でのプルシークレットの使用の詳細は、OpenShift ドキュメントの グローバルクラスタープルシークレットの更新 を参照してください。
前提条件
- シングルモデルサービングプラットフォームへのモデルのデプロイ の前提条件を完了している。
- OpenShift AI デプロイメントで、モデルレジストリーコンポーネントが有効化されている。詳細は、モデルレジストリーコンポーネントの有効化 を参照してください。
手順
- OpenShift AI ダッシュボードから、Models → Model catalog をクリックします。
ドロップダウンリストで、管理者によって設定された利用可能なカタログソースを選択します。デフォルトでは、Default Catalog が表示されます。
注記OpenShift クラスター管理者は、追加のモデルカタログソースを設定できます。詳細は、Kubeflow Model Registry コミュニティードキュメントの Configuring Catalog Sources を参照してください。
- 検索バーを使用してカタログ内のモデルを検索します。モデル名、説明、またはプロバイダーを入力して検索できます。
- Model details ページを表示するには、モデルの名前をクリックします。
- Deploy model をクリックすると、Deploy model ダイアログが表示されます。
Project ドロップダウンリストで、モデルをデプロイするプロジェクトを選択します。
注記OCI ストレージを使用するモデルは、シングルモデルサービングプラットフォームにのみデプロイできます。マルチモデルサービングプラットフォームを使用するプロジェクトは、プロジェクトリストに表示されません。
モデルのデプロイメント セクションでは、次の操作を行います。
オプション: Model deployment name フィールドに、モデルデプロイメントの一意の名前を入力します。このフィールドには、デフォルトでモデル名を含む値が自動入力されます。
これは、モデルがデプロイされたときに作成される推論サービスの名前です。
オプション: Edit resource name をクリックし、Resource name フィールドにモデルデプロイメントの特定のリソース名を入力します。デフォルトでは、リソース名はモデルデプロイメントの名前と一致します。
重要リソース名は、OpenShift でリソースに付けられるラベルです。リソース名は 253 文字を超えることはできません。小文字の英数字または - で構成され、先頭と末尾は英数字である必要があります。リソース名は作成後に編集できません。
リソース名は、OpenShift クラスター内の他のモデルデプロイメントリソースの名前と同じにならないようにしてください。
- Serving runtime リストから、OpenShift AI デプロイメントにインストールされ有効になっているモデルサービングランタイムを選択します。プロジェクトスコープのランタイムが存在する場合、Serving runtime リストには、グローバルランタイムとプロジェクトスコープのランタイムを区別するためのサブ見出しが含まれます。
Model framework リストから、モデルのフレームワークを選択します。
注記Model framework リストには、モデルをデプロイしたときに指定したモデルサービングランタイムでサポートされているフレームワークのみが表示されます。
Deployment mode リストから、KServe RawDeployment または Knative Serverless を選択します。デプロイメントモードの詳細は、KServe デプロイメントモードについて を参照してください。
- Number of model server replicas to deploy フィールドに値を指定します。
- Model server size リストから値を選択します。
ハードウェアプロファイルを作成した場合は、Hardware profile リストからハードウェアプロファイルを選択します。プロジェクトスコープのハードウェアプロファイルが存在する場合、Hardware profile リストには、グローバルハードウェアプロファイルとプロジェクトスコープのハードウェアプロファイルを区別するためのサブ見出しが含まれます。
重要デフォルトでは、ハードウェアプロファイルはダッシュボードのナビゲーションメニューとユーザーインターフェイスに表示されません。非推奨となったアクセラレータープロファイル機能に関連付けられたユーザーインターフェイスコンポーネントは、引き続き表示されます。ダッシュボードのナビゲーションメニューに Settings → Hardware profiles オプションと、ハードウェアプロファイルに関連付けられたユーザーインターフェイスコンポーネントを表示するには、OpenShift の
OdhDashboardConfigカスタムリソース (CR) で、disableHardwareProfiles値をfalseに設定します。ダッシュボード設定オプションの設定に関する詳細は、ダッシュボードのカスタマイズ を参照してください。- Model route セクションで、Make deployed models available through an external route チェックボックスをオンにして、デプロイされたモデルを外部クライアントが利用できるようにします。
Token authentication セクションで、Require token authentication チェックボックスをオンにすると、モデルサーバーでトークン認証を必須にできます。トークン認証の設定を完了するには、次のアクションを実行します。
- Service account name フィールドに、トークンが生成されるサービスアカウント名を入力します。生成されたトークンは、モデルサーバーの設定時に作成され、Token secret フィールドに表示されます。
- 追加のサービスアカウントを追加するには、Add a service account をクリックし、別のサービスアカウント名を入力します。
- Source model location セクションで Current URI を選択し、カタログから選択したモデルをデプロイします。
オプション: Configuration parameters セクションでランタイムパラメーターをカスタマイズします。
- Additional serving runtime arguments の値を変更して、デプロイされるモデルの動作を定義します。
- モデルの環境内の変数を定義するには、Additional environment variables の値を変更します。
- Deploy をクリックします。
検証
- モデルデプロイメントは、Models → Model Deployments ページに表示されます。
- モデルのデプロイメントは、Model details ページの Latest deployments セクションに表示されます。
- モデルのデプロイメントは、モデルバージョンの Deployments タブに表示されます。
2.10. モデルレジストリーからデプロイされたモデルバージョンのデプロイメントプロパティーの編集 リンクのコピーリンクがクリップボードにコピーされました!
レジストリーからデプロイされたモデルのモデルレジストリーから、モデルバージョンデプロイメントプロパティーを編集できます。たとえば、デプロイメント名、モデルフレームワーク、ソースモデルの場所の詳細を変更できます。
2.10.1. マルチモデルサービングプラットフォームを使用してデプロイされたモデルのデプロイメントプロパティーを編集する リンクのコピーリンクがクリップボードにコピーされました!
モデルレジストリーから、デプロイされたモデルバージョンのデプロイメントプロパティーを編集できます。たとえば、デプロイメント名、モデルフレームワーク、ソースモデルの場所の詳細を変更できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- 使用可能なモデルレジストリーがデプロイメント内に存在し、登録およびデプロイされたモデルバージョンが少なくとも 1 つ含まれている。
- 編集するモデルバージョンのデプロイメントを含むモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、編集するモデルデプロイメントが含まれているモデルレジストリーを選択します。
Model name 列で、編集するデプロイメントを含むモデルの名前をクリックします。
モデルの詳細ページが開きます。
- 編集するデプロイメントのモデルバージョンの名前をクリックします。
- Deployments をクリックします。
- 編集するモデルデプロイメントの横にあるアクションメニュー (⋮) をクリックします。
- Edit をクリックします。
Edit model ダイアログで、モデルのデプロイメントプロパティーを編集します。
- Model deployment name フィールドに、モデルデプロイメントの新しい一意の名前を入力します。
Model framework リストから、モデルに別のフレームワークを選択します。
注記Model framework リストには、モデルサーバーの設定時に指定したモデルサービングランタイムによってサポートされるフレームワークのみが表示されます。
- 既存の接続を指定するか、新しい接続を作成して接続を編集します。
- Redeploy をクリックします。
検証
- モデルが再デプロイされ、モデルバージョンの Deployments タブに更新された詳細が表示されます。
2.10.2. シングルモデルサービングプラットフォームを使用してデプロイされたモデルのデプロイメントプロパティーを編集する リンクのコピーリンクがクリップボードにコピーされました!
モデルレジストリーから、デプロイされたモデルバージョンのデプロイメントプロパティーを編集できます。たとえば、デプロイメント名、モデルフレームワーク、モデルサーバーレプリカの数、モデルサーバーのサイズ、ソースモデルの場所の詳細を変更できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- 使用可能なモデルレジストリーがデプロイメント内に存在し、登録およびデプロイされたモデルバージョンが少なくとも 1 つ含まれている。
- 編集するモデルバージョンのデプロイメントを含むモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、編集するモデルデプロイメントが含まれているモデルレジストリーを選択します。
Model name 列で、編集するデプロイメントを含むモデルの名前をクリックします。
モデルの詳細ページが開きます。
- 編集するデプロイメントのモデルバージョンの名前をクリックします。
- Deployments をクリックします。
- 編集するモデルデプロイメントの横にあるアクションメニュー (⋮) をクリックします。
- Edit をクリックします。
Edit model ダイアログで、モデルのデプロイメントプロパティーを編集します。
- Model deployment name フィールドに、モデルデプロイメントの新しい一意の名前を入力します。
Model framework リストから、モデルに別のフレームワークを選択します。
注記Model framework リストには、モデルをデプロイしたときに指定したモデル提供ランタイムでサポートされているフレームワークのみが表示されます。
- Number of model server replicas to deploy フィールドに値を指定します。
- Model server size リストから値を選択します。
- Model route セクションで、Make deployed models available through an external route チェックボックスをオンにして、デプロイされたモデルを外部クライアントが利用できるようにします。
Token authentication セクションで、Require token authentication チェックボックスをオンにすると、モデルサーバーでトークン認証を必須にできます。トークン認証の設定を完了するには、次のアクションを実行します。
- Service account name フィールドに、トークンが生成されるサービスアカウント名を入力します。生成されたトークンは、モデルサーバーの設定時に作成され、Token secret フィールドに表示されます。
- 追加のサービスアカウントを追加するには、Add a service account をクリックし、別のサービスアカウント名を入力します。
- 既存の接続を指定するか、新しい接続を作成して接続を編集します。
Configuration parameters セクションでランタイムパラメーターをカスタマイズします。
- Additional serving runtime arguments の値を変更して、デプロイされるモデルの動作を定義します。
モデルの環境内の変数を定義するには、Additional environment variables の値を変更します。
Configuration parameters セクションに、事前定義されたサービングランタイムパラメーターが表示されます (利用可能な場合)。
注記ポートまたはモデルサービングランタイムの引数は変更しないでください。これらの引数には、特定の値を設定する必要があるためです。これらのパラメーターを上書きすると、デプロイが失敗する可能性があります。
- Redeploy をクリックします。
検証
- モデルが再デプロイされ、モデルバージョンの Deployments タブに更新された詳細が表示されます。
2.11. モデルレジストリーからのデプロイされたモデルバージョンの削除 リンクのコピーリンクがクリップボードにコピーされました!
モデルレジストリーからモデルバージョンのデプロイメントを削除できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- 使用可能なモデルレジストリーがデプロイメント内に存在し、登録されているモデルが少なくとも 1 つ含まれており、そのモデルにはデプロイされたモデルバージョンが 1 つ含まれている。
- 削除するモデルバージョンのデプロイメントを含むモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、削除するデプロイメントが含まれているモデルレジストリーを選択します。
詳細を表示するには、モデルの名前をクリックします。
モデルの詳細ページが開きます。
削除するデプロイメントのモデルバージョンの名前をクリックします。
モデルバージョンの詳細ページが開きます。
- Deployments をクリックします。
デプロイメントを削除するには、デプロイメントの横にあるアクションメニュー (⋮) をクリックし、Delete をクリックします。
Delete deployed model? ダイアログが開きます。
- テキストフィールドにモデルデプロイメントの名前を入力して、削除を確定します。
- Delete deployed model をクリックします。
検証
- モデルバージョンの Deployments タブにモデルのデプロイメントが表示されなくなります。
2.12. モデルのアーカイブ リンクのコピーリンクがクリップボードにコピーされました!
不要になったモデルをアーカイブできます。モデルとそのすべてのバージョンはアーカイブされ、復元されない限り使用できなくなります。
デプロイされたバージョンを持つモデルはアーカイブできません。モデルをアーカイブするには、最初に Models → Model deployments ページから、登録されているバージョンのすべてのデプロイメントを削除する必要があります。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- アーカイブするモデルが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストで、モデルのアーカイブ先となるモデルレジストリーを選択します。
- アーカイブするモデルの横にあるアクションメニュー (⋮) をクリックします。
- Archive model をクリックします。
- 表示される Archive model? ダイアログで、テキストフィールドにモデルの名前を入力して、アーカイブを確定します。
- Archive をクリックします。
検証
- モデルは Model registry ページに表示されなくなりました。
- モデルは、モデルレジストリーのアーカイブ済みモデルページに表示されます。
2.13. モデルバージョンのアーカイブ リンクのコピーリンクがクリップボードにコピーされました!
不要になったモデルバージョンをアーカイブできます。モデルバージョンはアーカイブされ、復元されない限り使用できなくなります。
デプロイされたモデルバージョンはアーカイブできません。モデルバージョンをアーカイブするには、最初に Models → Model deployments ページからそのバージョンのすべてのデプロイメントを削除する必要があります。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- アーカイブするモデルバージョンが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストで、モデルのアーカイブ先となるモデルレジストリーを選択します。
Model name 列で、アーカイブするバージョンが含まれているモデルの名前をクリックします。
モデルバージョンの詳細ページが開きます。
- アーカイブするバージョンの横にあるアクションメニュー (⋮) をクリックします。
- Archive model version をクリックします。
- 開いた Archive version? ダイアログで、テキストフィールドにモデルバージョンの名前を入力して、アーカイブを確定します。
- Archive をクリックします。
検証
- モデルの詳細ページにモデルバージョンが表示されなくなりました。
- モデルのバージョンは、モデルのアーカイブバージョンページに表示されます。
2.14. モデルの復元 リンクのコピーリンクがクリップボードにコピーされました!
アーカイブされたモデルを復元できます。モデルとそのすべてのバージョンが復元され、登録済みモデルリストに戻されます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つのアーカイブ済みモデルが含まれている。
- 復元するモデルが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストで、モデルの復元先となるモデルレジストリーを選択します。
Register model ボタンの横にあるアクションメニュー (⋮) をクリックし、View archived models をクリックします。
モデルレジストリーのアーカイブ済みモデルページが開きます。
- 復元するモデルの横にあるアクションメニュー (⋮) をクリックします。
- Restore model をクリックします。
- 表示される Restore model? ダイアログで、Restore をクリックします。
検証
- モデルは Model registry ページに表示されます。
- モデルは、モデルレジストリーのアーカイブ済みモデルページに表示されなくなります。
2.15. モデルバージョンの復元 リンクのコピーリンクがクリップボードにコピーされました!
アーカイブされたモデルバージョンを復元できます。モデルバージョンが復元され、モデルのバージョンリストに戻されます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つのアーカイブ済みモデルバージョンが含まれている。
- 復元するモデルバージョンが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンリストから、モデルバージョンを復元するモデルレジストリーを選択します。
Model name 列で、復元するバージョンが含まれているモデルの名前をクリックします。
モデルバージョンの詳細ページが開きます。
Register new version ボタンの横にあるアクションメニュー (⋮) をクリックし、View archived versions をクリックします。
モデルのアーカイブ済みバージョンページが開きます。
- 復元するバージョンの横にあるアクションメニュー (⋮) をクリックします。
- Restore version をクリックします。
開いた Restore version? ダイアログで、Restore をクリックします。
バージョンの詳細ページが開きます。
検証
- モデルの詳細ページにモデルバージョンが表示されます。
- モデルは、モデルのアーカイブバージョンページに表示されなくなります。