1.7. 创建用于 MicroShift 的 ServingRuntime CR

流程

1. 运行以下命令，从 MicroShift 发行版本信息文件中提取要使用的 ServingRuntime CR 的镜像引用：

   $ OVMS_IMAGE="$(jq -r '.images | with_entries(select(.key == "ovms-image")) | .[]' /usr/share/microshift/release/release-ai-model-serving-"$(uname -i)".json)" 

   1

   Copy to Clipboard Toggle word wrap

   1

   在本例中，提取 OVMS 模型运行时的镜像引用。

2. 运行以下命令复制原始 ServingRuntime YAML 文件：

   $ cp /usr/lib/microshift/manifests.d/050-microshift-ai-model-serving-runtimes/ovms-kserve.yaml ./ovms-kserve.yaml

   Copy to Clipboard Toggle word wrap

3. 运行以下命令，将实际镜像引用添加到 ServingRuntime YAML 的 image: parameter 字段值：

   $ sed -i "s,image: ovms-image,image: ${OVMS_IMAGE}," ./ovms-kserve.yaml

   Copy to Clipboard Toggle word wrap

4. 运行以下命令，使用 YAML 文件在自定义命名空间中创建 ServingRuntime 对象：

   $ oc create -n <ai_demo> -f ./ovms-kserve.yaml 

   1

   Copy to Clipboard Toggle word wrap

   1

   将 <ai_demo > 替换为您的命名空间的名称。