第 1 章 存储模型
在部署前,您必须存储您的模型。您可以在 S3 存储桶、URI 或开放容器项目(OCI)容器中存储模型。
1.1. 使用 OCI 容器进行模型存储 复制链接链接已复制到粘贴板!
复制链接链接已复制到粘贴板!
作为在 S3 存储桶或 URI 中存储模型的替代选择,您可以将模型上传到开放容器项目(OCI)容器中。在 KServe 中,从 OCI 容器部署模型也被称为 modelcars。
使用 OCI 容器进行模型存储可帮助您:
- 通过避免多次下载同一模型来减少启动时间。
- 通过减少本地下载的模型数量来减少磁盘空间使用量。
- 通过允许预抓取镜像来提高模型性能。
使用 OCI 容器进行模型存储涉及以下任务:
- 在 OCI 镜像中存储模型。
使用用户界面或命令行界面从 OCI 镜像部署模型。使用以下方法部署模型:
- 用户界面,请参阅 在单模式服务平台上部署模型。
- 命令行界面,请参阅使用 CLI 部署存储在 OCI 镜像中的模型。