2.13. シングルモデルサービングプラットフォームにデプロイされたモデルに対する推論リクエストの実行

手順

1. OpenShift AI ダッシュボードで、Data science projects をクリックします。

   Data science projects のページが開きます。

2. デプロイされたモデルが含まれるプロジェクトの名前をクリックします。

   プロジェクトの詳細ページが開きます。

3. Models タブをクリックします。

4. Models and model servers リストで、モデルのセクションを展開します。

   認証トークンは、Token secret フィールドの Token authentication セクションに表示されます。

5. オプション: 推論リクエストで使用する認証トークンをコピーするには、トークン値の横に表示される Copy ボタン ( ) をクリックします。

手順

1. OpenShift AI ダッシュボードで、Models Model deployments をクリックします。

   モデルの推論エンドポイントは、Inference endpoint フィールドに表示されます。

2. モデルで実行するアクション (およびモデルがそのアクションをサポートしているかどうか) に応じて、表示されている推論エンドポイントをコピーし、URL の末尾にパスを追加します。
3. エンドポイントを使用して、デプロイされたモデルに API リクエストを送信します。