搜索

4.5.2. 更新模型服务器

download PDF

您可以通过更改详情来更新数据科学项目的模型服务器,如部署的副本数、服务器大小、令牌授权以及如何访问项目。

先决条件

  • 您已登陆到 Red Hat OpenShift Data Science。
  • 如果您使用专用的 OpenShift Data Science 组,则作为 OpenShift 中的用户组或 admin 组(如 rhods-users)的一部分。
  • 您已创建了一个分配了模型服务器的数据科学项目。

流程

  1. 在 OpenShift Data Science 仪表板中,点 Data Science Projects

    Data Science 项目页面 将打开。

  2. 点击您要更新模型服务器详情的项目的名称。

    将打开项目的 Details 页面。

  3. Models and model servers 部分,找到您要更新的型号服务器,然后点击操作菜单()→ Edit model server。

    此时会打开 Configure model server 对话框。

  4. 更新模型服务器的属性。

    1. 选择 要部署的模型服务器 副本数。
    2. 为您的模型选择以下服务器大小之一:

      • small
      • Medium
      • Large
      • Custom
    3. 可选:如果您选择了 Custom,请在 Model server size 部分中配置以下设置以自定义模型服务器:

      1. 在 CPU 请求字段中,输入与模型一起使用的 CPU 数量。
      2. CPU limit 字段中输入与您的型号一起使用的 CPU 数量上限。
      3. Memory requested 字段中,以 GB (GB)输入模型服务器请求的内存。
      4. Memory limit 字段中,以 GB (GB)输入模型服务器的最大内存限值。
    4. 可选: 选择 Model route 部分中的 external route 复选框提供的 Make deploy,使部署的模型可在外部使用。
    5. 可选: 选择 Token Authorization 部分中的 Require token authorization 复选框,将令牌身份验证应用到您的模型服务器。

      1. 编辑在 Token secret 字段中生成的令牌的服务帐户名称。当配置模型服务器时,生成的令牌会被创建并显示。
      2. 要添加额外服务帐户,请点击 Add a service account,然后在 Token secret 字段中输入相关信息。
  5. 单击 配置

验证

  • 您更新的模型服务器会在项目的 Details 页面中的 Models 和 model servers 部分显示。
Red Hat logoGithubRedditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.

關於紅帽

我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。

© 2024 Red Hat, Inc.