モデルレジストリーの操作
Red Hat OpenShift AI Cloud Service でのモデルレジストリーの操作
概要
はじめに リンクのコピーリンクがクリップボードにコピーされました!
OpenShift AI のデータサイエンティストは、モデルレジストリー機能を使用して、モデルの保存、共有、バージョン管理、デプロイ、追跡を実行できます。
第1章 モデルレジストリーの概要 リンクのコピーリンクがクリップボードにコピーされました!
モデルレジストリーとモデルカタログは現在、Red Hat OpenShift AI でテクノロジープレビュー機能として利用できます。テクノロジープレビュー機能は、Red Hat 製品のサービスレベルアグリーメント (SLA) の対象外であり、機能的に完全ではないことがあります。Red Hat では、実稼働環境での使用を推奨していません。テクノロジープレビュー機能は、最新の製品機能をいち早く提供して、開発段階で機能のテストを行い、フィードバックを提供していただくことを目的としています。
Red Hat のテクノロジープレビュー機能のサポート範囲に関する詳細は、テクノロジープレビュー機能のサポート範囲 を参照してください。
モデルレジストリーは、人工知能/機械学習 (AI/ML) モデルのライフサイクルにおける重要なコンポーネントであり、あらゆる機械学習運用 (MLOps) プラットフォームまたは ML ワークフローの重要な部分です。モデルレジストリーは、機械学習モデルの開始からデプロイメントに関連するメタデータを保持する中央リポジトリーとして機能します。このメタデータには、デプロイメント環境やプロジェクトの起源などの概要や、トレーニングハイパーパラメーター、パフォーマンスメトリクス、デプロイメントイベントなどの複雑な詳細が含まれます。モデルレジストリーは、モデルの実験と提供の間の橋渡しとして機能し、ML ライフサイクルの関係者に安全で共同的なメタデータストアインターフェイスを提供します。
モデルレジストリーは、モデルを保存、共有、バージョン管理、デプロイ、追跡するための構造化され整理された方法を提供します。
OpenShift AI でモデルレジストリーを使用するには、OpenShift クラスター管理者がモデルレジストリーコンポーネントを有効にする必要があります。詳細は、モデルレジストリーコンポーネントの有効化 を参照してください。
モデルレジストリーコンポーネントが有効になったら、OpenShift AI 管理者は OpenShift AI でモデルレジストリーを作成し、レジストリーを扱うデータサイエンティストにモデルレジストリーへのアクセス権を付与できます。詳細は、モデルレジストリーの管理 を参照してください。
モデルレジストリーにアクセスできるデータサイエンティストは、モデルレジストリー機能を使用して、モデルを保存、共有、バージョン管理、デプロイ、および追跡できます。詳細は、モデルレジストリーの使用 を参照してください。
モデルカタログ機能が追加されたことで、組織が登録、デプロイ、カスタマイズできる利用可能なモデルを検出できるようになりました。この機能は、ユーザーを Granite ファミリーのモデル、および LAB-tuning ワークフローで使用される教師モデルとジャッジモデルに接続するところから始まります。
LAB-tuning ワークフローの使用の詳細は、LAB-tuning を使用したモデルのカスタマイズ を参照してください。
第2章 モデルレジストリーの操作 リンクのコピーリンクがクリップボードにコピーされました!
2.1. モデルの登録 リンクのコピーリンクがクリップボードにコピーされました!
データサイエンティストは、OpenShift AI ダッシュボードからモデルを登録できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメント内の利用可能なモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューで、モデルの登録先となるモデルレジストリーを選択します。
Register model をクリックします。
Register model ダイアログが開きます。
Model details セクションで、モデルの全バージョンに適用する詳細を設定します。
- Model name フィールドに、モデルの名前を入力します。
- オプション: Model description フィールドに、モデルの説明を入力します。
Version details セクションに、モデルの最初のバージョンに適用する詳細を入力します。
- Version name フィールドに、モデルバージョンの名前を入力します。
- オプション: Version description フィールドに、モデルの最初のバージョンの説明を入力します。
-
Source model format フィールドに、モデル形式の名前 (例:
onnx) を入力します。 - Source model format version フィールドに、モデル形式のバージョンを入力します。
Model location セクションで、オブジェクトストレージの詳細または URI を指定して、モデルの場所を指定します。
オブジェクトストレージの詳細を指定するには、Object storage ラジオボタンが選択されていることを確認します。
既存の接続の詳細を自動入力するには、次の手順を実行します。
- Autofill from connection をクリックします。
- Autofill from connection ダイアログが開きます。このダイアログで、Project ドロップダウンリストから、目的の接続を含むデータサイエンスプロジェクトを選択します。
Connection name ドロップダウンリストから、使用する接続を選択します。
このリストには、バケットを含むオブジェクトストレージタイプのみが含まれます。
- Autofill をクリックします。
または、オブジェクトストレージの詳細を手動で入力します。
- Endpoint フィールドに、S3 互換オブジェクトストレージバケットのエンドポイントを入力します。
- Bucket フィールドに、S3 互換のオブジェクトストレージバケットの名前を入力します。
- Region フィールドに、S3 互換オブジェクトストレージアカウントのリージョンを入力します。
- Path フィールドに、モデルまたはフォルダーへのパスを入力します。このパスは、ルートフォルダーを指すことはできません。
URI を指定するには、URI ラジオボタンが選択されていることを確認します。
URI フィールドに、モデルの URI を入力します。
重要URI を使用して登録されたモデルのデプロイメントは、現在、パブリック OCI リポジトリーでのみサポートされています。
- Register model をクリックします。
検証
- 新しいモデルが Model registry ページに表示されます。
2.2. モデルカタログからのモデル登録 リンクのコピーリンクがクリップボードにコピーされました!
データサイエンティストは、モデルカタログから直接モデルを登録できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメント内の利用可能なモデルレジストリーにアクセスできる。
- モデルカタログの有効化 の説明に従って、モデルカタログ機能を有効にした。
手順
- OpenShift AI ダッシュボードから、Models → Model catalog をクリックします。
Red Hat models セクションから、登録するモデルの名前をクリックします。
モデルの詳細ページが開きます。
- Register model をクリックします。
Model details セクションで、モデルの全バージョンに適用する詳細を設定します。
- オプション: Model name フィールドに、モデルの特定の名前を入力します。
- オプション: Model description フィールドで、モデルの説明を更新します。
Version details セクションに、モデルの最初のバージョンに適用する詳細を入力します。
- Version name フィールドに、モデルバージョンの名前を入力します。
- オプション: Version description フィールドに、モデルの最初のバージョンの説明を入力します。
-
Source model format フィールドに、モデル形式の名前 (例:
onnx) を入力します。 - Source model format version フィールドに、モデル形式のバージョンを入力します。
- Model location セクションに、モデルの URI が表示されます。
- Register model をクリックします。
検証
- 新しいモデルが Model registry ページに表示されます。
2.3. モデルバージョンの登録 リンクのコピーリンクがクリップボードにコピーされました!
モデルバージョンを登録できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメント内の利用可能なモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューで、モデルの登録先となるモデルレジストリーを選択します。
Model name 列で、新しいバージョンを登録するモデルの名前をクリックします。
モデルの詳細ページが開きます。
- Register new version をクリックします。
Version details セクションに、モデルの最初のバージョンに適用する詳細を入力します。
- Version name フィールドに、モデルバージョンの名前を入力します。
- オプション: Version description フィールドに、モデルの最初のバージョンの説明を入力します。
-
Source model format フィールドに、モデル形式の名前 (例:
onnx) を入力します。 - Source model format version フィールドに、モデル形式のバージョンを入力します。
Model location セクションで、オブジェクトストレージの詳細または URI を指定して、モデルの場所を指定します。
オブジェクトストレージの詳細を指定するには、Object storage ラジオボタンが選択されていることを確認します。
既存の接続の詳細を自動入力するには、次の手順を実行します。
- Autofill from connection をクリックします。
- Autofill from connection ダイアログが開きます。このダイアログで、Project ドロップダウンリストから、目的の接続を含むデータサイエンスプロジェクトを選択します。
Connection name ドロップダウンリストから、使用する接続を選択します。
このリストには、バケットを含むオブジェクトストレージタイプのみが含まれます。
- Autofill をクリックします。
または、オブジェクトストレージの詳細を手動で入力します。
- Endpoint フィールドに、S3 互換オブジェクトストレージバケットのエンドポイントを入力します。
- Bucket フィールドに、S3 互換のオブジェクトストレージバケットの名前を入力します。
- Region フィールドに、S3 互換オブジェクトストレージアカウントのリージョンを入力します。
- Path フィールドに、モデルまたはフォルダーへのパスを入力します。このパスは、ルートフォルダーを指すことはできません。
URI を指定するには、URI ラジオボタンが選択されていることを確認します。
URI フィールドに、モデルの URI を入力します。
重要URI を使用して登録されたモデルのデプロイメントは、現在、パブリック OCI リポジトリーでのみサポートされています。
- Register new version をクリックします。
検証
- 新しいモデルバージョンは、モデルの詳細ページに表示されます。
2.4. 登録済みモデルの表示 リンクのコピーリンクがクリップボードにコピーされました!
OpenShift AI に登録されたモデルの詳細 (登録されたバージョン、デプロイメント、モデルに関連付けられたメタデータなど) を表示できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- 表示するモデルが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューから、表示するモデルが含まれているモデルレジストリーを選択します。
Model registry ページには、モデル名、ラベル、最終変更タイムスタンプ、各モデルの所有者など、登録済みモデルの概要が表示されます。
デフォルトでは、モデルは 最終変更 タイムスタンプで並べ替えられます。
検索バーを使用してリスト内のモデルを検索します。デフォルトのキーワード検索を使用するか、検索バーのドロップダウンメニューをクリックして Owner を選択し、モデル所有者で検索できます。
キーワードで検索すると、登録されているモデルとそのバージョンの名前、説明、ラベルで検索が実行されます。
詳細を表示するには、モデルの名前をクリックします。
モデルの詳細ページが開きます。
- Versions タブでは、モデルの登録済みバージョンを表示できます。
- Details タブでは、モデルの説明、ラベル、カスタムプロパティー、モデル ID、所有者、最終変更日時と作成日時のタイムスタンプを表示できます。
検証
- モデルの詳細ページに、選択したモデルの情報が表示されます。
2.5. 登録済みモデルのバージョンを表示する リンクのコピーリンクがクリップボードにコピーされました!
OpenShift AI に登録されているモデルバージョンの詳細 (バージョンメタデータやデプロイメント情報など) を表示できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- 表示するモデルバージョンが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューから、表示するモデルバージョンが含まれているモデルレジストリーを選択します。
モデルの名前をクリックすると、そのバージョンが表示されます。
モデルの詳細ページが開きます。
Versions タブでは、モデルの登録済みバージョンを表示できます。
デフォルトでは、バージョンは 最終更新日時 のタイムスタンプで並べ替えられます。
検索バーを使用してリスト内のバージョンを検索します。デフォルトのキーワード検索を使用するか、検索バーのドロップダウンメニューをクリックして Author を選択し、モデル作成者で検索できます。
キーワードで検索すると、登録されているモデルとそのバージョンの名前、説明、ラベルで検索が実行されます。
詳細を表示するには、バージョンの名前をクリックします。
バージョンの詳細ページが開きます。
- Details タブでは、モデルの説明、ラベル、カスタムプロパティー、バージョン ID、作成者、最終変更日時および登録日時のタイムスタンプを表示できます。モデルのソースモデル形式と場所の情報も表示できます。
Deployments タブでは、このバージョンのモデルレジストリーから開始されたデプロイメントを表示できます。
デプロイメントの名前をクリックしてメトリクスページを開きます。
シングルモデルサービングプラットフォーム上のモデルメトリクスの詳細は、デプロイされたモデルのパフォーマンスメトリクスの表示 を参照してください。マルチモデルサービングプラットフォームのモデルメトリクスの詳細は、マルチモデルサービングプラットフォームのモデルサービングランタイムメトリクスの表示 を参照してください。
検証
- 登録されたモデルバージョンの詳細は、Model registry ページで表示できます。
2.6. モデルレジストリー内のモデルメタデータの編集 リンクのコピーリンクがクリップボードにコピーされました!
モデルの説明、ラベル、カスタムプロパティーなど、OpenShift AI に登録されたモデルのメタデータを編集できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- 編集するモデルが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューから、編集するモデルが含まれているモデルレジストリーを選択します。
- Model registry ページには、モデル名、ラベル、最終変更タイムスタンプ、各モデルの所有者など、登録済みモデルの概要が表示されます。
詳細を表示するには、モデルの名前をクリックします。
モデルの詳細ページが開きます。
Details タブでは、モデルのメタデータを編集できます。
- Description セクションで、Edit をクリックしてモデルの説明を編集します。
- Labels セクションで、Edit をクリックしてモデルのラベルを編集します。
Properties セクションで、Add property をクリックしてモデルに新しいプロパティーを追加します。
- 既存のプロパティーを編集するには、プロパティーの横にあるアクションメニュー (⋮) をクリックし、Edit をクリックします。
- プロパティーを削除するには、プロパティーの横にあるアクションメニュー (⋮) をクリックし、Delete をクリックします。
検証
- モデルの詳細ページに更新されたメタデータが表示されます。
2.7. モデルレジストリー内のモデルバージョンメタデータの編集 リンクのコピーリンクがクリップボードにコピーされました!
バージョンの説明、ラベル、カスタムプロパティーなど、OpenShift AI に登録されているモデルバージョンのメタデータを編集できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- 編集するモデルバージョンが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューから、編集するモデルバージョンが含まれているモデルレジストリーを選択します。
詳細を表示するには、モデルの名前をクリックします。
モデルの詳細ページが開きます。
詳細を表示するには、バージョンの名前をクリックします。
バージョンの詳細ページが開きます。
Details タブでは、バージョンメタデータを編集できます。
- Description セクションで、Edit をクリックしてバージョンの説明を編集します。
- Labels セクションで、Edit をクリックしてバージョンのラベルを編集します。
Properties セクションで、Add property をクリックしてバージョンに新しいプロパティーを追加します。
- 既存のプロパティーを編集するには、プロパティーの横にあるアクションメニュー (⋮) をクリックし、Edit をクリックします。
- プロパティーを削除するには、プロパティーの横にあるアクションメニュー (⋮) をクリックし、Delete をクリックします。
検証
- モデルバージョンの詳細ページに更新されたメタデータが表示されます。
2.8. モデルレジストリーからモデルバージョンをデプロイする リンクのコピーリンクがクリップボードにコピーされました!
登録済みモデルのバージョンをモデルレジストリーから直接デプロイできます。
前提条件
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- シングルモデルサービングプラットフォームを使用してモデルバージョンをデプロイするために、シングルモデルサービングプラットフォームへのモデルのデプロイ で説明されている前提条件を満たしている。
- マルチモデルサービングプラットフォームを使用してモデルバージョンをデプロイするために、マルチモデルサービングプラットフォームを使用したモデルのデプロイ で説明されている前提条件を満たしている。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューから、モデルバージョンをデプロイするモデルレジストリーを選択します。
Model name 列で、デプロイするバージョンが含まれているモデルの名前をクリックします。
モデルバージョンの詳細ページが開きます。
- デプロイするモデルバージョンの横にあるアクションメニュー (⋮) をクリックします。
- Deploy をクリックします。
Deploy model ダイアログで、モデルをデプロイするためのプロパティーを設定します。
- Project ドロップダウンリストで、ターゲットプロジェクトを選択します。
- Deploy をクリックします。
モデルをデプロイするには、次のプロパティーを設定します。
- Project ドロップダウンリストで、モデルをデプロイするプロジェクトを選択します。
オプション: Model deployment name フィールドに、モデルデプロイメントの名前を入力します。
各デプロイメントには、デフォルトで次の形式で名前が付けられます。
<model name> <model version name> <deployment creation timestamp>これは、モデルがデプロイされたときに作成される推論サービスの名前になります。
マルチモデルサービングプラットフォームを使用したモデルのデプロイ または シングルモデルサービングプラットフォームへのモデルのデプロイ の説明に従って、モデルをデプロイするための残りのプロパティーを設定します。
- Deploy をクリックします。
検証
- モデルバージョンは、モデルバージョンの Deployments タブに表示されます。
- モデルバージョンのデプロイメントを編集するには、その横にあるアクションメニュー (⋮) をクリックし、Edit をクリックします。
- モデルバージョンのデプロイメントを削除するには、その横にあるアクションメニュー (⋮) をクリックし、Delete をクリックします。
2.9. モデルカタログからのモデルのデプロイ リンクのコピーリンクがクリップボードにコピーされました!
モデルカタログから直接モデルをデプロイできます。
OpenShift AI モデルサービングデプロイメントでは、グローバルクラスタープルシークレットを使用して、カタログから ModelCar 形式のモデルをプルします。
前提条件
- モデルカタログからモデルをデプロイするために、シングルモデルサービングプラットフォームへのモデルのデプロイ で説明されている前提条件を満たしている。
- クラスター管理者が OpenShift AI デプロイメントでモデルレジストリーコンポーネントを有効にした。詳細は、モデルレジストリーコンポーネントの有効化 を参照してください。
- モデルカタログの有効化 の説明に従って、モデルカタログ機能を有効にした。
手順
- OpenShift AI ダッシュボードから、Models → Model catalog をクリックします。
Red Hat models セクションから、デプロイするモデルの名前をクリックします。
モデルの詳細ページが開きます。
Deploy model をクリックします。
Deploy model ダイアログが開きます。
Project ドロップダウンリストで、モデルをデプロイするプロジェクトを選択します。
注記OCI ストレージを使用するモデルは、シングルモデルサービングプラットフォームにのみデプロイできます。マルチモデルサービングプラットフォームを使用するプロジェクトは、プロジェクトリストに表示されません。
モデルのデプロイメント セクションでは、次の操作を行います。
オプション: Model deployment name フィールドに、モデルデプロイメントの一意の名前を入力します。Model deployment name には、デフォルトでモデル名を含む値が自動入力されます。
これは、モデルがデプロイされたときに作成される推論サービスの名前です。
オプション: Edit resource name をクリックし、Resource name フィールドにモデルデプロイメントの特定のリソース名を入力します。デフォルトでは、リソース名はモデルレジストリーの名前と一致します。
重要リソース名は、OpenShift でリソースに付けられるラベルです。リソース名は 253 文字を超えることはできません。小文字の英数字または - で構成され、先頭と末尾は英数字である必要があります。リソース名は作成後に編集できません。
リソース名は、OpenShift クラスター内の他のモデルデプロイメントリソースの名前と同じにならないようにしてください。
- Serving runtime リストから、OpenShift AI デプロイメントにインストールされ有効になっているモデルサービングランタイムを選択します。プロジェクトスコープのランタイムが存在する場合、Serving runtime リストには、グローバルランタイムとプロジェクトスコープのランタイムを区別するためのサブ見出しが含まれます。
Model framework リストから、モデルのフレームワークを選択します。
注記Model framework リストには、モデルをデプロイしたときに指定したモデルサービングランタイムでサポートされているフレームワークのみが表示されます。
Deployment mode リストから、Standard または Advanced を選択します。デプロイメントモードの詳細は、KServe デプロイメントモードについて を参照してください。
- Number of model server replicas to deploy フィールドに値を指定します。
- Model server size リストから値を選択します。
ハードウェアプロファイルを作成した場合は、Hardware profile リストからハードウェアプロファイルを選択します。プロジェクトスコープのハードウェアプロファイルが存在する場合、Hardware profile リストには、グローバルハードウェアプロファイルとプロジェクトスコープのハードウェアプロファイルを区別するためのサブ見出しが含まれます。
重要デフォルトでは、ハードウェアプロファイルはダッシュボードのナビゲーションメニューとユーザーインターフェイスに表示されません。非推奨となったアクセラレータープロファイル機能に関連付けられたユーザーインターフェイスコンポーネントは、引き続き表示されます。ダッシュボードのナビゲーションメニューに Settings → Hardware profiles オプションと、ハードウェアプロファイルに関連付けられたユーザーインターフェイスコンポーネントを表示するには、OpenShift の
OdhDashboardConfigカスタムリソース (CR) で、disableHardwareProfiles値をfalseに設定します。ダッシュボード設定オプションの設定に関する詳細は、ダッシュボードのカスタマイズ を参照してください。- Model route セクションで、Make deployed models available through an external route チェックボックスをオンにして、デプロイされたモデルを外部クライアントが利用できるようにします。
Token authentication セクションで、Require token authentication チェックボックスをオンにすると、モデルサーバーでトークン認証を必須にできます。トークン認証の設定を完了するには、次のアクションを実行します。
- Service account name フィールドに、トークンが生成されるサービスアカウント名を入力します。生成されたトークンは、モデルサーバーの設定時に作成され、Token secret フィールドに表示されます。
- 追加のサービスアカウントを追加するには、Add a service account をクリックし、別のサービスアカウント名を入力します。
- Source model location セクションで Current URI を選択し、カタログから選択したモデルをデプロイします。
オプション: Configuration parameters セクションでランタイムパラメーターをカスタマイズします。
- Additional serving runtime arguments の値を変更して、デプロイされるモデルの動作を定義します。
- モデルの環境内の変数を定義するには、Additional environment variables の値を変更します。
- Deploy をクリックします。
検証
- モデルは、モデルバージョンの Deployments タブに表示されます。
2.10. モデルレジストリーからデプロイされたモデルバージョンのデプロイメントプロパティーの編集 リンクのコピーリンクがクリップボードにコピーされました!
レジストリーからデプロイされたモデルのモデルレジストリーから、モデルバージョンデプロイメントプロパティーを編集できます。たとえば、デプロイメント名、モデルフレームワーク、ソースモデルの場所の詳細を変更できます。
2.10.1. マルチモデルサービングプラットフォームを使用してデプロイされたモデルのデプロイメントプロパティーを編集する リンクのコピーリンクがクリップボードにコピーされました!
モデルレジストリーから、デプロイされたモデルバージョンのデプロイメントプロパティーを編集できます。たとえば、デプロイメント名、モデルフレームワーク、ソースモデルの場所の詳細を変更できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- 使用可能なモデルレジストリーがデプロイメント内に存在し、登録およびデプロイされたモデルバージョンが少なくとも 1 つ含まれている。
- 編集するモデルバージョンのデプロイメントを含むモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューから、編集するモデルデプロイメントが含まれているモデルレジストリーを選択します。
Model name 列で、編集するデプロイメントを含むモデルの名前をクリックします。
モデルの詳細ページが開きます。
- 編集するデプロイメントのモデルバージョンの名前をクリックします。
- Deployments をクリックします。
- 編集するモデルデプロイメントの横にあるアクションメニュー (⋮) をクリックします。
- Edit をクリックします。
Edit model ダイアログで、モデルのデプロイメントプロパティーを編集します。
- Model deployment name フィールドに、モデルデプロイメントの新しい一意の名前を入力します。
Model framework リストから、モデルに別のフレームワークを選択します。
注記Model framework リストには、モデルサーバーの設定時に指定したモデルサービングランタイムによってサポートされるフレームワークのみが表示されます。
- 既存の接続を指定するか、新しい接続を作成して接続を編集します。
- Redeploy をクリックします。
検証
- モデルが再デプロイされ、モデルバージョンの Deployments タブに更新された詳細が表示されます。
2.10.2. シングルモデルサービングプラットフォームを使用してデプロイされたモデルのデプロイメントプロパティーを編集する リンクのコピーリンクがクリップボードにコピーされました!
モデルレジストリーから、デプロイされたモデルバージョンのデプロイメントプロパティーを編集できます。たとえば、デプロイメント名、モデルフレームワーク、モデルサーバーレプリカの数、モデルサーバーのサイズ、ソースモデルの場所の詳細を変更できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- 使用可能なモデルレジストリーがデプロイメント内に存在し、登録およびデプロイされたモデルバージョンが少なくとも 1 つ含まれている。
- 編集するモデルバージョンのデプロイメントを含むモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューから、編集するモデルデプロイメントが含まれているモデルレジストリーを選択します。
Model name 列で、編集するデプロイメントを含むモデルの名前をクリックします。
モデルの詳細ページが開きます。
- 編集するデプロイメントのモデルバージョンの名前をクリックします。
- Deployments をクリックします。
- 編集するモデルデプロイメントの横にあるアクションメニュー (⋮) をクリックします。
- Edit をクリックします。
Edit model ダイアログで、モデルのデプロイメントプロパティーを編集します。
- Model deployment name フィールドに、モデルデプロイメントの新しい一意の名前を入力します。
Model framework リストから、モデルに別のフレームワークを選択します。
注記Model framework リストには、モデルをデプロイしたときに指定したモデル提供ランタイムでサポートされているフレームワークのみが表示されます。
- Number of model server replicas to deploy フィールドに値を指定します。
- Model server size リストから値を選択します。
- Model route セクションで、Make deployed models available through an external route チェックボックスをオンにして、デプロイされたモデルを外部クライアントが利用できるようにします。
Token authentication セクションで、Require token authentication チェックボックスをオンにすると、モデルサーバーでトークン認証を必須にできます。トークン認証の設定を完了するには、次のアクションを実行します。
- Service account name フィールドに、トークンが生成されるサービスアカウント名を入力します。生成されたトークンは、モデルサーバーの設定時に作成され、Token secret フィールドに表示されます。
- 追加のサービスアカウントを追加するには、Add a service account をクリックし、別のサービスアカウント名を入力します。
- 既存の接続を指定するか、新しい接続を作成して接続を編集します。
Configuration parameters セクションでランタイムパラメーターをカスタマイズします。
- Additional serving runtime arguments の値を変更して、デプロイされるモデルの動作を定義します。
モデルの環境内の変数を定義するには、Additional environment variables の値を変更します。
Configuration parameters セクションに、事前定義されたサービングランタイムパラメーターが表示されます (利用可能な場合)。
注記ポートまたはモデルサービングランタイムの引数は変更しないでください。これらの引数には、特定の値を設定する必要があるためです。これらのパラメーターを上書きすると、デプロイが失敗する可能性があります。
- Redeploy をクリックします。
検証
- モデルが再デプロイされ、モデルバージョンの Deployments タブに更新された詳細が表示されます。
2.11. モデルレジストリーからのデプロイされたモデルバージョンの削除 リンクのコピーリンクがクリップボードにコピーされました!
モデルレジストリーからモデルバージョンのデプロイメントを削除できます。
前提条件
- Red Hat OpenShift AI にログインしている。
- 使用可能なモデルレジストリーがデプロイメント内に存在し、登録されているモデルが少なくとも 1 つ含まれており、そのモデルにはデプロイされたモデルバージョンが 1 つ含まれている。
- 削除するモデルバージョンのデプロイメントを含むモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューから、編集するモデルが含まれているモデルレジストリーを選択します。
詳細を表示するには、モデルの名前をクリックします。
モデルの詳細ページが開きます。
削除するデプロイメントのモデルバージョンの名前をクリックします。
モデルバージョンの詳細ページが開きます。
- Deployments をクリックします。
デプロイメントを削除するには、デプロイメントの横にあるアクションメニュー (⋮) をクリックし、Delete をクリックします。
Delete deployed model? ダイアログが開きます。
- テキストフィールドにモデルデプロイメントの名前を入力して、削除を確定します。
- Delete deployed model をクリックします。
検証
- モデルバージョンの Deployments タブにモデルのデプロイメントが表示されなくなります。
2.12. モデルのアーカイブ リンクのコピーリンクがクリップボードにコピーされました!
不要になったモデルをアーカイブできます。モデルとそのすべてのバージョンはアーカイブされ、復元されない限り使用できなくなります。
デプロイされたバージョンを持つモデルはアーカイブできません。モデルをアーカイブするには、最初に Models → Model deployments ページから、登録されているバージョンのすべてのデプロイメントを削除する必要があります。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- アーカイブするモデルが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューで、モデルのアーカイブ先となるモデルレジストリーを選択します。
- アーカイブするモデルの横にあるアクションメニュー (⋮) をクリックします。
- Archive model をクリックします。
- 表示される Archive model? ダイアログで、テキストフィールドにモデルの名前を入力して、アーカイブを確定します。
- Archive をクリックします。
検証
- モデルは Model registry ページに表示されなくなりました。
- モデルは、モデルレジストリーのアーカイブ済みモデルページに表示されます。
2.13. モデルバージョンのアーカイブ リンクのコピーリンクがクリップボードにコピーされました!
不要になったモデルバージョンをアーカイブできます。モデルバージョンはアーカイブされ、復元されない限り使用できなくなります。
デプロイされたモデルバージョンはアーカイブできません。モデルバージョンをアーカイブするには、最初に Models → Model deployments ページからそのバージョンのすべてのデプロイメントを削除する必要があります。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つの登録済みモデルが含まれている。
- アーカイブするモデルバージョンが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューで、モデルのアーカイブ先となるモデルレジストリーを選択します。
Model name 列で、アーカイブするバージョンが含まれているモデルの名前をクリックします。
モデルバージョンの詳細ページが開きます。
- アーカイブするバージョンの横にあるアクションメニュー (⋮) をクリックします。
- Archive model version をクリックします。
- 開いた Archive version? ダイアログで、テキストフィールドにモデルバージョンの名前を入力して、アーカイブを確定します。
- Archive をクリックします。
検証
- モデルの詳細ページにモデルバージョンが表示されなくなりました。
- モデルのバージョンは、モデルのアーカイブバージョンページに表示されます。
2.14. モデルの復元 リンクのコピーリンクがクリップボードにコピーされました!
アーカイブされたモデルを復元できます。モデルとそのすべてのバージョンが復元され、登録済みモデルリストに戻されます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つのアーカイブ済みモデルが含まれている。
- 復元するモデルが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューで、モデルの復元先となるモデルレジストリーを選択します。
Register model ドロップダウンメニューの横にあるアクションメニュー (⋮) をクリックし、View archived models をクリックします。
モデルレジストリーのアーカイブ済みモデルページが開きます。
- 復元するモデルの横にあるアクションメニュー (⋮) をクリックします。
- Restore model をクリックします。
- 表示される Restore model? ダイアログで、Restore をクリックします。
検証
- モデルは Model registry ページに表示されます。
- モデルは、モデルレジストリーのアーカイブ済みモデルページに表示されなくなります。
2.15. モデルバージョンの復元 リンクのコピーリンクがクリップボードにコピーされました!
アーカイブされたモデルバージョンを復元できます。モデルバージョンが復元され、モデルのバージョンリストに戻されます。
前提条件
- Red Hat OpenShift AI にログインしている。
- デプロイメントに使用可能なモデルレジストリーがあり、少なくとも 1 つのアーカイブ済みモデルバージョンが含まれている。
- 復元するモデルバージョンが含まれているモデルレジストリーにアクセスできる。
手順
- OpenShift AI ダッシュボードから、Models → Model registry をクリックします。
- Model registry ドロップダウンメニューで、モデルの復元先となるモデルレジストリーを選択します。
Model name 列で、復元するバージョンが含まれているモデルの名前をクリックします。
モデルバージョンの詳細ページが開きます。
Register new version ドロップダウンメニューの横にあるアクションメニュー (⋮) をクリックし、View archived versions をクリックします。
モデルのアーカイブ済みバージョンページが開きます。
- 復元するバージョンの横にあるアクションメニュー (⋮) をクリックします。
- Restore version をクリックします。
開いた Restore version? ダイアログで、Restore をクリックします。
バージョンの詳細ページが開きます。
検証
- モデルの詳細ページにモデルバージョンが表示されます。
- モデルは、モデルのアーカイブバージョンページに表示されなくなります。