2.4. プロジェクトへの TrustyAI サービスのインストール
データサイエンスプロジェクトに TrustyAI サービスをインストールして、そのプロジェクト内にデプロイされたすべてのモデルにその機能へのアクセスを提供します。データサイエンティストが監視するモデルを含むデータサイエンスプロジェクトまたは namespace ごとに、TrustyAI サービスのインスタンスが必要です。
プロジェクトには TrustyAI サービスのインスタンスを 1 つだけインストールします。同じプロジェクト内に複数のインスタンスが存在すると、予期しない動作が発生する可能性があります。
OVMS 以外のモデルがデプロイされている namespace に TrustyAI をインストールすると、TrustyAI サービスでエラーが発生する可能性があります。
2.4.1. CLI を使用した TrustyAI サービスのインストール リンクのコピーリンクがクリップボードにコピーされました!
OpenShift コマンドラインインターフェイス (CLI) を使用して、TrustyAI サービスのインスタンスをインストールできます。
前提条件
- OpenShift クラスターのクラスター管理者権限を持っている。
- OpenShift コマンドラインインターフェイス (CLI) をダウンロードしてインストールした。OpenShift CLI のインストール を参照してください。
- マルチモデルサービングプラットフォームの監視の設定 で説明されているように、モデルサービングプラットフォームの監視が設定されている。
- TrustyAI コンポーネントの有効化の説明に従って、TrustyAI コンポーネント を有効にしている。
- PVC ではなくデータベースで TrustyAI を使用している場合は、データベースを使用した TrustyAI の設定 で説明されているように、データベースを使用するように TrustyAI を設定する。
- データサイエンティストが監視するモデルを含むデータサイエンスプロジェクトを、データサイエンティストが データサイエンスプロジェクトの作成 の説明に従って作成した。
手順
- 新しいターミナルウィンドウを開きます。
次の手順に従い、クラスター管理者として OpenShift クラスターにログインします。
- OpenShift Web コンソールで、ユーザー名をクリックし、Copy login command を選択します。
- ログイン後、Display token をクリックします。
Log in with this token をコピーし、OpenShift コマンドラインインターフェイス (CLI) に貼り付けます。
oc login --token=<token> --server=<openshift_cluster_url>
$ oc login --token=<token> --server=<openshift_cluster_url>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
データサイエンティストが監視するモデルが含まれているデータサイエンスプロジェクトに移動します。
oc project <project_name>
oc project <project_name>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 以下に例を示します。
oc project my-project
oc project my-project
Copy to Clipboard Copied! Toggle word wrap Toggle overflow TrustyAIService
カスタムリソース (CR) ファイル (例:trustyai_crd.yaml
) を作成します。データベースを使用した TrustyAI の CR ファイルの例
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- TrustyAI サービスインスタンスの名前。
- 2
- データの保存形式。
DATABASE
またはPVC
(永続ボリューム要求) のいずれかです。Red Hat では、TrustyAI でのスケーラビリティー、パフォーマンス、およびデータ管理を向上させるために、データベースセットアップを使用することを推奨します。 - 3
- 要求するデータのサイズ。
- 4
- データベースを使用した TrustyAI の設定 で作成した、データベース認証情報を含むシークレットの名前。(例:
db-credentials
) - 5
- メトリクスを計算する間隔。デフォルトは
5s
です。期間は ISO-8601 形式で指定されます。たとえば、5 秒は5s
、5 分は5m
、5 時間は5h
となります。
PVC を使用した TrustyAI の CR ファイルの例
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- TrustyAI サービスインスタンスの名前。
- 2
- データの保存形式。
DATABASE
またはPVC
(永続ボリューム要求) のいずれかです。 - 3
- データを保存する PVC 内の場所。
- 4
- リクエストする PVC のサイズ。
- 5
- 保存されたデータファイルの接尾辞。
- 6
- データの形式。現在、コンマ区切り値 (CSV) 形式のみがサポートされています。
- 7
- メトリクスを計算する間隔。デフォルトは
5s
です。期間は ISO-8601 形式で指定されます。たとえば、5 秒は5s
、5 分は5m
、5 時間は5h
となります。 - 8
- (オプション) メトリクスの計算に使用する観測の履歴ウィンドウサイズ。デフォルトは
5000
です。これは、最新の 5,000 件の推論を使用してメトリクスが計算されることを意味します。
TrustyAI サービスの CR をプロジェクトに追加します。
oc apply -f trustyai_crd.yaml
oc apply -f trustyai_crd.yaml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow コマンドは、以下のような出力を返します。
trusty-service created
trusty-service created
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
検証
TrustyAI サービスがインストールされていることを確認します。
oc get pods | grep trustyai
oc get pods | grep trustyai
次のような応答が表示されるはずです。
trustyai-service-5d45b5884f-96h5z 1/1 Running
trustyai-service-5d45b5884f-96h5z 1/1 Running