5.2. 使用加速器配置集

步骤

1. 在 OpenShift AI 仪表板中，点 Settings Accelerator profiles。

   此时会出现 加速器配置文件 页面，显示现有的加速器配置文件。

2. 检查加速器配置集列表。要启用或禁用加速器配置集，请在包含加速器配置集的行中点 Enable 列中的切换。

步骤

1. 在 OpenShift AI 仪表板中，点 Settings Accelerator profiles。

   此时会出现 加速器配置文件 页面，显示现有的加速器配置文件。要启用或禁用现有的加速器配置集，请在包含相关加速器配置集的行中点 Enable 列中的切换。

2. 点 Create accelerator profile。

   此时会出现 Create accelerator 配置集 对话框。

3. 在 Name 字段中输入 accelerator 配置集的名称。
4. 在 Identifier 字段中输入唯一字符串，用于标识与加速器配置集关联的硬件加速器。
5. 可选：在 Description 字段中输入加速器配置集的描述。
6. 要在创建后立即启用或禁用加速器配置集，请点击 Enable 列中的切换。

7. 可选：添加容限来调度具有匹配污点的 pod。

   1. 点 Add toleration。

      此时会打开 Add toleration 对话框。

   2. 在 Operator 列表中，选择以下选项之一：

      • equal - 键/值/effect 参数必须匹配。这是默认值。
      • exists - key/effect 参数必须匹配。您必须保留一个空 value 参数，该参数与 any 匹配。

   3. 在 Effect 列表中，选择以下选项之一：

      • None
      • NoSchedule - 与污点不匹配的新 pod 不会调度到该节点上。该节点上现有的 pod 会保留。
      • PreferNoSchedule - 与污点不匹配的新 pod 可能会调度到该节点上，但调度程序会尝试。该节点上现有的 pod 会保留。
      • NoExecute - 与污点不匹配的新 pod 无法调度到该节点上。节点上没有匹配容限的现有 pod 将被移除。
   4. 在 Key 字段中，输入容限键。key 是任意字符串，最多 253 个字符。key 必须以字母或数字开头，可以包含字母、数字、连字符、句点和下划线。
   5. 在 Value 字段中输入容限值。该值是任意字符串，最多 63 个字符。value 必须以字母或数字开头，可以包含字母、数字、连字符、句点和下划线。

   6. 在 Toleration Seconds 部分中，选择以下选项之一来指定 pod 保持与具有节点状况的节点绑定的时长。

      • 永久地 - Pod 保持永久绑定到节点。
      • Custom 值 - 输入值（以秒为单位），以定义 pod 保持与具有节点状况的节点绑定的时长。
   7. 点击 Add。
8. 点 Create accelerator profile。

步骤

1. 在 OpenShift AI 仪表板中，点 Settings Notebook images。

   此时会出现 Notebook images 页面。以前导入的 notebook 镜像会被显示。要启用或禁用之前导入的 notebook 镜像，请在包含相关 notebook 镜像的行中点 Enable 列中的切换。

2. 点操作菜单（需要），然后从列表中选择 Edit。

   这会打开 Edit accelerator 配置集 对话框。

3. 在 Name 字段中，更新 accelerator 配置集名称。
4. 在 Identifier 字段中，更新唯一字符串，用于标识与加速器配置文件关联的硬件加速器（如果适用）。
5. 可选：在 Description 字段中，更新 accelerator 配置集。
6. 要在创建后立即启用或禁用加速器配置集，请点击 Enable 列中的切换。

7. 可选：添加容限来调度具有匹配污点的 pod。

   1. 点 Add toleration。

      此时会打开 Add toleration 对话框。

   2. 在 Operator 列表中，选择以下选项之一：

      • equal - 键/值/effect 参数必须匹配。这是默认值。
      • exists - key/effect 参数必须匹配。您必须保留一个空 value 参数，该参数与 any 匹配。

   3. 在 Effect 列表中，选择以下选项之一：

      • None
      • NoSchedule - 与污点不匹配的新 pod 不会调度到该节点上。该节点上现有的 pod 会保留。
      • PreferNoSchedule - 与污点不匹配的新 pod 可能会调度到该节点上，但调度程序会尝试。该节点上现有的 pod 会保留。
      • NoExecute - 与污点不匹配的新 pod 无法调度到该节点上。节点上没有匹配容限的现有 pod 将被移除。
   4. 在 Key 字段中，输入容限键。key 是任意字符串，最多 253 个字符。key 必须以字母或数字开头，可以包含字母、数字、连字符、句点和下划线。
   5. 在 Value 字段中输入容限值。该值是任意字符串，最多 63 个字符。value 必须以字母或数字开头，可以包含字母、数字、连字符、句点和下划线。

   6. 在 Toleration Seconds 部分中，选择以下选项之一来指定 pod 保持与具有节点状况的节点绑定的时长。

      • 永久地 - Pod 保持永久绑定到节点。
      • Custom 值 - 输入值（以秒为单位），以定义 pod 保持与具有节点状况的节点绑定的时长。
   7. 点击 Add。

8. 如果您的加速器配置集包含现有的容限，您可以编辑它们。

   1. 点击包含您要编辑的容限的行中的操作菜单(RCU)，并从列表中选择 Edit。
   2. 完成适用的字段，以更新容限的详细信息。
   3. 点 Update。
9. 点 Update accelerator 配置集。

步骤

1. 在 OpenShift AI 仪表板中，点 Settings Accelerator profiles。

   此时会出现 加速器配置文件 页面，显示现有的加速器配置文件。

2. 点您要删除的加速器配置集旁的操作菜单（需要），然后点 Delete。

   此时会打开 Delete accelerator 配置集 对话框。

3. 在文本字段中输入 加速器配置文件的名称，以确认您想要删除它。
4. 点击 Delete。

步骤

1. 在 OpenShift AI 仪表板中，点 Settings Notebook images。

   此时会出现 Notebook images 页面。以前导入的 notebook 镜像会被显示。

2. 点操作菜单（需要），然后从列表中选择 Edit。

   此时会打开 Update notebook 镜像 对话框。

3. 从 加速器标识符 列表中，选择一个标识符来设置其加速器，如使用 notebook 镜像的建议。如果笔记本镜像只包含一个加速器标识符，则默认显示标识符名称。

4. 点 Update。

   注意

   如果您已经为笔记本镜像配置了加速器标识符，您可以通过创建关联的加速器配置集为笔记本镜像指定推荐的加速器。要做到这一点，请点击包含 notebook 镜像所在行上的 Create profile，并完成相关字段。如果笔记本镜像不包含加速器标识符，您必须在创建关联的加速器配置集前手动配置。

步骤

1. 在 OpenShift AI 仪表板中点 Settings > Serving runtime。

   Serving 运行时 页面将打开，并显示 OpenShift AI 部署中已安装并启用的 model-serving 运行时。默认情况下，OpenShift AI 中预安装并启用 OpenVINO Model Server 运行时。

2. 编辑您要添加推荐的加速器标签的自定义运行时，点操作菜单（需要），然后选择 Edit。

   此时会打开带有嵌入式 YAML 编辑器的页面。

   注意

   您不能直接编辑 OpenShift AI 中包含的 OpenVINO Model Server 运行时。但是，您可以 克隆 此运行时并编辑克隆的版本。然后，您可以将编辑的克隆添加为新的自定义运行时。要做到这一点，点 OpenVINO Model Server 旁边的操作菜单，然后选择 Duplicate。

3. 在编辑器中，输入 YAML 代码以应用注解 opendatahub.io/recommended-accelerators。本例摘录显示了为 NVIDIA GPU 加速器设置推荐的标签的注解：

   metadata:
   	annotations:
   		opendatahub.io/recommended-accelerators: '["nvidia.com/gpu"]'

   Copy to Clipboard Toggle word wrap
4. 点 Update。