红帽全球峰会第 1 章 加速器概述
如果使用大型数据集，您可以使用加速器来优化 OpenShift AI 中数据科学模型的性能。通过加速器，您可以扩展工作、缩短延迟并提高生产效率。您可以在 OpenShift AI 中使用加速器来帮助您的数据科学家完成以下任务：
- 自然语言处理(NLP)
- inference
- 培训深层网络
- 数据清理和数据处理
您可以将以下加速器用于 OpenShift AI：
NVIDIA 图形处理单元(GPU)
- 要在模型中使用计算密集型工作负载，您可以在 OpenShift AI 中启用 NVIDIA 图形处理单元(GPU)。
- 要在 OpenShift 上启用 NVIDIA GPU，您必须安装 NVIDIA GPU Operator。
AMD 图形处理单元(GPU)
- 使用 AMD GPU Operator 为工作负载（如 AI/ML 培训和认证）启用 AMD GPU。
要在 OpenShift 中启用 AMD GPU，您必须执行以下任务：
- 安装 AMD GPU Operator。
- 按照 AMD GPU Operator 文档中的 的完整部署和驱动程序配置进行操作。
- 安装后，AMD GPU Operator 允许您使用 ROCm workbench 镜像来简化 AMD GPU 上的 AI/ML 工作流。
Intel Gaudi AI Accelerators
- Intel 提供用于深入学习工作负载的硬件加速器。
- 在 OpenShift AI 中启用 Intel Gaudi AI Accelerators 之前，您必须安装所需的依赖项。另外，您安装的 Intel Gaudi AI Operator 的版本必须与部署中对应的 workbench 镜像版本匹配。
- 默认情况下，OpenShift AI 不包含 Intel Gaudi Accelerators 的工作台镜像。反之，您必须创建一个自定义工作台来启用 Intel Gaudi AI 支持。
- 您可以在内部或 AWS 实例上的 AWS DL1 计算节点启用 Intel Gaudi AI 加速器。
在 OpenShift AI 中使用加速器前，您必须在 OpenShift AI 中启用 GPU 支持。这包括安装 Node Feature Discovery operator 和 NVIDIA GPU Operator。如需更多信息，请参阅安装 Node Feature Discovery operator 和 启用 NVIDIA GPU。另外，您的 OpenShift 实例必须包含关联的硬件配置集或加速器配置集。对于部署的新加速器，您必须在上下文中为加速器配置硬件配置集或加速器配置集。您可以从 OpenShift AI 仪表板上的 Settings
Hardware profiles 页面创建硬件配置集。如果您的部署包含已经配置关联的配置集的现有加速器，则在升级到最新版本的 OpenShift AI 后会自动创建配置集。 重要默认情况下，硬件配置集在仪表板导航菜单和用户界面中隐藏，而加速器配置集保持可见。另外，与已弃用的加速器配置集功能关联的用户界面组件仍然会显示。要在仪表板导航菜单中显示 Settings
Hardware profiles 选项，以及与硬件配置集关联的用户界面组件，请在 OpenShift 中的 OdhDashboardConfig自定义资源(CR)中将disableHardwareProfiles值设置为false。有关设置仪表板配置选项的更多信息，请参阅 自定义仪表板。
'%20d='M201.5%20305.5c-13.8%200-24.9-11.1-24.9-24.6%200-13.8%2011.1-24.9%2024.9-24.9%2013.6%200%2024.6%2011.1%2024.6%2024.9%200%2013.6-11.1%2024.6-24.6%2024.6zM504%20256c0%20137-111%20248-248%20248S8%20393%208%20256%20119%208%20256%208s248%20111%20248%20248zm-132.3-41.2c-9.4%200-17.7%203.9-23.8%2010-22.4-15.5-52.6-25.5-86.1-26.6l17.4-78.3%2055.4%2012.5c0%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.3%2024.9-24.9s-11.1-24.9-24.9-24.9c-9.7%200-18%205.8-22.1%2013.8l-61.2-13.6c-3-.8-6.1%201.4-6.9%204.4l-19.1%2086.4c-33.2%201.4-63.1%2011.3-85.5%2026.8-6.1-6.4-14.7-10.2-24.1-10.2-34.9%200-46.3%2046.9-14.4%2062.8-1.1%205-1.7%2010.2-1.7%2015.5%200%2052.6%2059.2%2095.2%20132%2095.2%2073.1%200%20132.3-42.6%20132.3-95.2%200-5.3-.6-10.8-1.9-15.8%2031.3-16%2019.8-62.5-14.9-62.5zM302.8%20331c-18.2%2018.2-76.1%2017.9-93.6%200-2.2-2.2-6.1-2.2-8.3%200-2.5%202.5-2.5%206.4%200%208.6%2022.8%2022.8%2087.3%2022.8%20110.2%200%202.5-2.2%202.5-6.1%200-8.6-2.2-2.2-6.1-2.2-8.3%200zm7.7-75c-13.6%200-24.6%2011.1-24.6%2024.9%200%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.1%2024.9-24.6%200-13.8-11-24.9-24.9-24.9z'/%3e%3c/svg%3e){kind=small}