前言 您可以通过安装 OpenShift Container Platform 并配置在断开连接的环境中的镜像容器镜像 registry,使用 Red Hat AI Inference Server 在没有连接到外部互联网的情况下,使用 Red Hat AI Inference Server 进行大量语言模型。 重要 目前,OpenShift Container Platform 上的断开连接的环境只支持 NVIDIA 加速器。 前一个下一个