第 1 章 OpenShift Container Platform 上的 AI 工作负载概述
OpenShift Container Platform 为运行人工智能(AI)工作负载(包括训练、推理和数据科学流程)提供了一个安全、可扩展的基础。
1.1. 运行 AI 工作负载的 Operator 复制链接链接已复制到粘贴板!
您可以使用 Operator 在 OpenShift Container Platform 上运行人工智能(AI)和机器学习(ML)工作负载。通过 Operator,您可以构建满足特定 AI/ML 要求的自定义环境,同时继续使用 OpenShift Container Platform 作为应用程序的核心平台。
OpenShift Container Platform 提供了多个可以帮助您运行 AI 工作负载的 Operator:
- 红帽构建的 Kueue
您可以使用红帽构建的 Kueue 提供结构化队列和优先级,以便公平高效地处理工作负载。如果没有正确的优先级,重要的作业可能会延迟,而相对不是非常关键的作业会占用资源。
如需更多信息,请参阅 "红帽构建的 Kueue 介绍"。
- Leader Worker Set Operator
您可以使用 Leader Worker Set Operator 启用在跨节点间稳定地运行大规模 AI 推理工作负载,在 leader 和 worker 进程间进行同步。如果没有适当的协调,运行的大型训练可能会失败或停滞。
如需更多信息,请参阅"Leader Worker Set Operator 概述"。