第 5 章 NVIDIA GPU 架构概述

NVIDIA 支持在 Red Hat OpenShift Service on AWS 上使用图形处理单元(GPU)资源。Red Hat OpenShift Service on AWS 是一个以安全为中心的、强化的 Kubernetes 平台，由红帽开发并提供支持，用于大规模部署和管理 Kubernetes 集群。Red Hat OpenShift Service on AWS 包括对 Kubernetes 的改进，以便用户可以轻松地配置和使用 NVIDIA GPU 资源来加快工作负载。

NVIDIA GPU Operator 利用 Red Hat OpenShift Service on AWS 中的 Operator 框架来管理运行 GPU 加速工作负载所需的 NVIDIA 软件组件的完整生命周期。

这些组件包括 NVIDIA 驱动程序（为了启用 CUDA）、GPU 的 Kubernetes 设备插件、NVID Container Toolkit、使用 GPU 特性发现(GFD)、基于 DCGM 的监控等的自动节点标记。