2.7. 从模型 registry 部署模型版本
您可以直接从模型 registry 部署注册模型的版本。
先决条件
- 您的部署中已存在可用的模型 registry,其中至少包含 1 个注册模型。
- 要使用 single-model 服务平台部署模型版本,您可以使用 单模式服务平台部署模型 中描述的先决条件。
- 要使用多模式服务平台部署模型版本,您必须使用 多模式服务平台部署模型 中描述的先决条件。
流程
- 在 OpenShift AI 仪表板中点 Model Registry。
- 在 Model registry 下拉菜单中选择您要部署模型版本的模型 registry。
在 Model name 列中,点击包含您要部署的版本的模型名称。
模型版本的详细信息页面将打开。
- 点您要部署的模型版本旁的操作菜单(WWN)。
- 点 Deploy。
在 Deploy model 对话框中,配置用于部署模型的属性。
- 从 Project 下拉列表中选择一个目标项目。
- 点 Deploy。
配置部署模型的以下属性:
- 从 Project 下拉列表中,选择要在其中部署模型的项目。
可选:在 Model deployment name 字段中输入模型部署的名称。
默认情况下,每个部署都以以下格式命名:
<model name> <model version name> <deployment creation timestamp>
这将是部署模型时创建的 inference 服务的名称。
配置部署模型的剩余属性,如使用 多模式服务平台部署模型 中所述,或使用单模式服务平台部署模型。
- 点 Deploy。
验证
- 模型版本会出现在模型版本的 Deployments 选项卡中。