4.5.2. 更新模型服务器
您可以通过更改详情来更新数据科学项目的模型服务器,如部署的副本数、服务器大小、令牌授权以及如何访问项目。
先决条件
- 您已登陆到 Red Hat OpenShift Data Science。
-
如果您使用专用的 OpenShift Data Science 组,则作为 OpenShift 中的用户组或 admin 组(如
rhods-users
)的一部分。 - 您已创建了一个分配了模型服务器的数据科学项目。
流程
在 OpenShift Data Science 仪表板中,点 Data Science Projects。
Data Science 项目页面 将打开。
点击您要更新模型服务器详情的项目的名称。
将打开项目的 Details 页面。
在 Models and model servers 部分,找到您要更新的型号服务器,然后点击操作菜单(⋮)→ Edit model server。
此时会打开 Configure model server 对话框。
更新模型服务器的属性。
- 选择 要部署的模型服务器 副本数。
为您的模型选择以下服务器大小之一:
- small
- Medium
- Large
- Custom
可选:如果您选择了 Custom,请在 Model server size 部分中配置以下设置以自定义模型服务器:
- 在 CPU 请求字段中,输入与模型一起使用的 CPU 数量。
- 在 CPU limit 字段中输入与您的型号一起使用的 CPU 数量上限。
- 在 Memory requested 字段中,以 GB (GB)输入模型服务器请求的内存。
- 在 Memory limit 字段中,以 GB (GB)输入模型服务器的最大内存限值。
- 可选: 选择 Model route 部分中的 external route 复选框提供的 Make deploy,使部署的模型可在外部使用。
可选: 选择 Token Authorization 部分中的 Require token authorization 复选框,将令牌身份验证应用到您的模型服务器。
- 编辑在 Token secret 字段中生成的令牌的服务帐户名称。当配置模型服务器时,生成的令牌会被创建并显示。
- 要添加额外服务帐户,请点击 Add a service account,然后在 Token secret 字段中输入相关信息。
- 单击 配置。
验证
- 您更新的模型服务器会在项目的 Details 页面中的 Models 和 model servers 部分显示。