第 2 章在单模型服务平台上提供模型

为了部署大型模型，如大型语言模型(LLMs)，Red Hat OpenShift AI 包括一个 单一模型服务平台，它基于 KServe 组件。由于每个模型都是从其自己的模型服务器部署的，因此单一模型服务平台可帮助您部署、监控、扩展和维护需要增加资源的大型模型。

2.1. 关于单模式服务平台

为了部署大型模型，如大型语言模型(LLMs)，OpenShift AI 包含一个基于 KServe 组件的单模型服务平台。由于每个模型都部署在自己的模型服务器上，因此单一模式服务平台可帮助您部署、监控、扩展和维护需要增加资源的大型模型。

通过我们的产品和服务，以及可以信赖的内容，帮助红帽用户创新并实现他们的目标。

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情，请参阅红帽博客.

我们提供强化的解决方案，使企业能够更轻松地跨平台和环境（从核心数据中心到网络边缘）工作。