第 2 章 新功能及功能增强

TrustyAI 现在通过自动 InferenceLogger 配置提供对 KServe inference 部署的支持。

KServe Raw 和 Serverless 都被支持，并使用 InferenceService 注解自动检测到部署模式。

OpenShift AI 现在通过 红帽构建的 Kueue 提供增强的工作负载调度。Kue 是一个作业排队系统，可为工作负载提供资源感知调度，提高 GPU 的利用率，并确保在 AI 工作负载之间与智能、基于配额的调度进行公平资源共享。

此功能还扩展了 OpenShift AI 中的工作负载支持，除了之前支持的分布式培训工作(RayJob、RayCluster、PyTT、PyTomJob)和模型服务(InferenceService)。

验证 Webhook 现在处理队列强制。此 Webhook 确保在为 Kueue 管理启用的任何项目中（使用 kueue.openshift.io/managed=true 标签），所有支持的工作负载都必须指定一个目标 LocalQueue （使用 kue.x-k8s.io/queue-name 标签）。这会替换之前版本中使用的 Validating Admission 策略。

如需更多信息，请参阅使用 Kueue 管理工作负载。

当您为断开连接的安装将镜像镜像到私有 registry 时，会默认镜像最新版本的工作台镜像。作为管理员，您可以通过 Disconnected Helper 配置中的 additionalImages 字段来镜像旧版本的工作台镜像。