第 2 章 新功能及功能增强
本节介绍了 Red Hat OpenShift AI 中的新功能和增强。
2.1. 新功能 复制链接链接已复制到粘贴板!
- 添加了对 KServe InferenceLogger 集成的 TrustyAI 的支持
TrustyAI 现在通过自动 InferenceLogger 配置提供对 KServe inference 部署的支持。
KServe Raw 和 Serverless 都被支持,并使用
InferenceService
注解自动检测到部署模式。
- 使用 Kueue 增强工作负载调度
OpenShift AI 现在通过 红帽构建的 Kueue 提供增强的工作负载调度。Kue 是一个作业排队系统,可为工作负载提供资源感知调度,提高 GPU 的利用率,并确保在 AI 工作负载之间与智能、基于配额的调度进行公平资源共享。
此功能还扩展了 OpenShift AI 中的工作负载支持,除了之前支持的分布式培训工作(
RayJob
、RayCluster
、PyTT、PyTomJob)和模型服务(InferenceService
)。验证 Webhook 现在处理队列强制。此 Webhook 确保在为 Kueue 管理启用的任何项目中(使用
kueue.openshift.io/managed=true
标签),所有支持的工作负载都必须指定一个目标LocalQueue
(使用kue.x-k8s.io/queue-name
标签)。这会替换之前版本中使用的 Validating Admission 策略。如需更多信息,请参阅使用 Kueue 管理工作负载。
- 添加了对查看镜像中 git 提交哈希的支持
- 现在,您可以查看镜像中的 git 提交哈希。此功能允许您确定镜像是否已更改,即使版本号保持不变。如果需要,您还可以将镜像追踪回源代码。
- 使用 Elyra 添加了对数据科学管道的支持
- 当在 Elyra 中使用数据科学管道时,您现在可以选择使用基于服务的 URL 而不是基于路由的 URL。您的数据科学管道可以通过包含端口号直接从服务使用。
- 工作台镜像默认镜像
当您为断开连接的安装将镜像镜像到私有 registry 时,会默认镜像最新版本的工作台镜像。作为管理员,您可以通过 Disconnected Helper 配置中的
additionalImages
字段来镜像旧版本的工作台镜像。重要只有最新版本的工作台镜像支持程序错误修正和安全更新。旧版本的工作台镜像可用,但它们不会接收程序错误修复或安全更新。