1.5. 将您的 AI 模型打包到 OCI 镜像中

流程

1. 使用兼容模型和模型服务器准备 Containerfile。

   带有与 OVMS 搭配使用的 ResNet-50 模型的 Containerfile 示例

   FROM registry.access.redhat.com/ubi9/ubi-minimal:latest
   RUN microdnf install -y wget && microdnf clean all
   RUN mkdir -p /models/1 && chmod -R 755 /models/1
   RUN wget -q -P /models/1 \
     https://storage.openvinotoolkit.org/repositories/open_model_zoo/2022.1/models_bin/2/resnet50-binary-0001/FP32-INT1/resnet50-binary-0001.bin \
     https://storage.openvinotoolkit.org/repositories/open_model_zoo/2022.1/models_bin/2/resnet50-binary-0001/FP32-INT1/resnet50-binary-0001.xml

   Copy to Clipboard Toggle word wrap

2. 运行以下命令，将 IMAGE_REF 环境变量设置为简化您的过程：

   $ IMAGE_REF=<ovms-resnet50:test> 

   1

   Copy to Clipboard Toggle word wrap

   1

   将 <ovms-resnet50:test > 替换为镜像引用的名称。在本例中，使用 &lt ;repo:tag& gt; 格式。您的镜像引用名称特定于您的用例。

3. 运行以下命令来构建 Containerfile：

   $ sudo podman build -t $IMAGE_REF 

   1

   Copy to Clipboard Toggle word wrap

   1

   由于 CRI-O 和 Podman 共享存储，需要使用 sudo 使镜像成为根容器存储的一部分，并可供 MicroShift 使用。

   输出示例

   STEP 1/4: FROM registry.access.redhat.com/ubi9/ubi-minimal:latest
   Trying to pull registry.access.redhat.com/ubi9/ubi-minimal:latest...
   Getting image source signatures
   Checking if image destination supports signatures
   Copying blob 533b69cfd644 done   |
   Copying blob 863e9a7e2102 done   |
   Copying config 098048e6f9 done   |
   Writing manifest to image destination
   Storing signatures
   STEP 2/4: RUN microdnf install -y wget && microdnf clean all
   << SNIP >>
   --> 4c74352ad42e
   STEP 3/4: RUN mkdir -p /models/1 && chmod -R 755 /models/1
   --> bfd31acb1e81
   STEP 4/4: RUN wget -q -P /models/1   https://storage.openvinotoolkit.org/repositories/open_model_zoo/2022.1/models_bin/2/resnet50-binary-0001/FP32-INT1/resnet50-binary-0001.bin   https://storage.openvinotoolkit.org/repositories/open_model_zoo/2022.1/models_bin/2/resnet50-binary-0001/FP32-INT1/resnet50-binary-0001.xml
   COMMIT ovms-resnet50:test
   --> 375b265c1c4b
   Successfully tagged localhost/ovms-resnet50:test
   375b265c1c4bc6f0a059c8739fb2b3a46e1b563728f6d9c51f26f29bb2c87

   Copy to Clipboard Toggle word wrap

4. 可选：运行以下命令将 Containerfile 推送到 registry 中：

   $ sudo podman push $IMAGE_REF

   Copy to Clipboard Toggle word wrap
   重要

   对于离线用例，请包括除 latest 以外的标签。如果使用 latest 标签，则获取和设置模型的容器将被配置为 imagePullPolicy: 参数，并且忽略本地镜像。如果您使用除 latest 之外的任何其他标签，则 imagePullPolicy: 参数将设置为 IfNotPresent。