1.7. MicroShift で使用するための ServingRuntime CR の作成

手順

1. 次のコマンドを実行して、MicroShift リリース情報ファイルから、使用する ServingRuntime CR のイメージ参照を抽出します。

   $ OVMS_IMAGE="$(jq -r '.images | with_entries(select(.key == "ovms-image")) | .[]' /usr/share/microshift/release/release-ai-model-serving-"$(uname -i)".json)" 

   1

   Copy to Clipboard Toggle word wrap

   1

   この例では、OVMS モデルサービングランタイムのイメージ参照が抽出されます。

2. 次のコマンドを実行して、元の ServingRuntime YAML ファイルをコピーします。

   $ cp /usr/lib/microshift/manifests.d/050-microshift-ai-model-serving-runtimes/ovms-kserve.yaml ./ovms-kserve.yaml

   Copy to Clipboard Toggle word wrap

3. 次のコマンドを実行して、ServingRuntime YAML の image: パラメーターフィールド値に実際のイメージ参照を追加します。

   $ sed -i "s,image: ovms-image,image: ${OVMS_IMAGE}," ./ovms-kserve.yaml

   Copy to Clipboard Toggle word wrap

4. 次のコマンドを実行し、YAML ファイルを使用してカスタム namespace に ServingRuntime オブジェクトを作成します。

   $ oc create -n <ai_demo> -f ./ovms-kserve.yaml 

   1

   Copy to Clipboard Toggle word wrap

   1

   <ai_demo> は、namespace の名前に置き換えます。