红帽全球峰会第 2 章 新功能及功能增强
本节介绍 Red Hat OpenShift AI 2.17 中的新功能和增强。
2.1. 新功能
- 支持 NVIDIA NIM 指标
现在，您可以查看在 NVIDIA NIM 模型服务平台上部署的 NIM 模型的指标。可用的指标如下：
- 随着时间的推移 GPU 缓存使用量
- 当前正在运行、等待和最大请求计数
- 令牌计数
- 第一次令牌
- 每个输出令牌的时间
- 请求结果
如需更多信息，请参阅关于 NVIDIA NIM 模型服务平台。
注意
NIM 指标会自动为 2.17 中的新部署启用。如果您要从以前的 Red Hat OpenShift AI 升级到 2.17，并已有 NIM 部署，则必须为部署手动启用 NIM 指标。如需更多信息，请参阅 NVIDIA NIM 模型服务平台文档。
