前言

红帽提供了经过验证的第三方模型，您可以使用 AI Inference Server 服务。这些模型旨在在 Red Hat AI 平台上有效地部署。使用开源工具验证模型。红帽使用 GuideLLM 用于性能基准测试 和语言模型评估，以实现准确性评估。