4.5. 配置模型服务器

流程

1. 在 OpenShift Data Science 仪表板中，点 Data Science Projects。

   Data Science 项目页面 将打开。

2. 点击您要为其配置模型服务器的项目名称。

   将打开项目的 Details 页面。

3. 在 Models 和 model servers 部分中，点 Configure server。

   此时会出现 Configure model server 对话框。

4. 在 每个副本的计算资源 部分中配置项目的模型服务器。

   1. 选择 要部署的模型服务器 副本数。

   2. 为您的模型选择以下服务器大小之一：

      • small
      • Medium
      • Large
      • Custom

   3. 可选：如果您选择了 Custom，请在 Model server size 部分中配置以下设置以自定义模型服务器：

      1. 在 CPU 请求字段中，输入与模型一起使用的 CPU 数量。
      2. 在 CPU limit 字段中输入与您的型号一起使用的 CPU 数量上限。
      3. 在 Memory requested 字段中，以 GB (GB)输入模型服务器请求的内存。
      4. 在 Memory limit 字段中，以 GB (GB)输入模型服务器的最大内存限值。
   4. 可选： 选择 Model route 部分中的 external route 复选框提供的 Make deploy，使部署的模型可在外部使用。

   5. 可选： 选择 Token Authorization 部分中的 Require token authorization 复选框，将令牌身份验证应用到您的模型服务器。

      1. 编辑在 Token secret 字段中生成的令牌的服务帐户名称。当配置模型服务器时，生成的令牌会被创建并显示。
      2. 要添加额外服务帐户，请点击 Add a service account，然后在 Token secret 字段中输入相关信息。