7.2. 在 Red Hat OpenShift AI 2.16.1 中解决的问题(January 2025)

此发行版本提供了安全更新。有关更新的完整列表，请查看红帽客户门户网站中的 相关勘误公告。

Gaudi 加速器的 RHOAIENG-1648 4- vLLM 服务器引擎会在一段时间不活跃后失败

在以前的版本中，当将 vLLM ServingRuntime 与 Gaudi Accelerators 搭配使用时，对带有 Gaudi 硬件的 KServe modelserving 运行时支持 vLLM ServingRuntime 时，vLLM 服务器可能会失败，并带有 TimeoutError 消息。这个问题不再发生。