第 6 章 安装多模式服务平台
为了部署小型和中型模型,OpenShift AI 包含一个基于 ModelMesh 组件的 多模式服务平台。在多型号服务平台上,可以从同一模型服务器部署多个模型并共享服务器资源。
要安装多模型服务平台或 ModelMesh,请按照 使用 CLI 安装 Red Hat OpenShift AI 组件 或 使用 web 控制台安装 Red Hat OpenShift AI 组件 的步骤进行操作。
为了部署小型和中型模型,OpenShift AI 包含一个基于 ModelMesh 组件的 多模式服务平台。在多型号服务平台上,可以从同一模型服务器部署多个模型并共享服务器资源。
要安装多模型服务平台或 ModelMesh,请按照 使用 CLI 安装 Red Hat OpenShift AI 组件 或 使用 web 控制台安装 Red Hat OpenShift AI 组件 的步骤进行操作。
通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。 了解我们当前的更新.
红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.
我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。