红帽全球峰会第 1 章 安装 OpenShift Lightspeed
Red Hat OpenShift Lightspeed 的安装过程由两个主要任务组成：安装 Lightspeed Operator 和配置 Lightspeed Service 与大型语言模型(LLM)供应商交互。
1.1. 大型语言模型(LLM)概述
大型语言模型(LLM)是一种人工智能计划，针对大量数据进行培训。OpenShift Lightspeed 服务与 LLM 交互，以生成问题的答案。
您可以配置 Red Hat Enterprise Linux AI 或 Red Hat OpenShift AI 作为 OpenShift Lightspeed Service 的 LLM 供应商。LLM 提供程序可以使用服务器，或对进程 inference 查询的服务推测。
另外，您可以将 OpenShift Lightspeed Service 连接到公开的 LLM 供应商，如 IBM watsonx、OpenAI 或 Microsoft Azure OpenAI。
安装 OpenShift Lightspeed Operator 不会安装 LLM 供应商。在安装 OpenShift Lightspeed Operator 之前，您必须有一个 LLM 供应商可供使用。
您可以使用 Red Hat Enterprise Linux AI 来托管 LLM。
如需更多信息，请参阅使用 RHEL AI 生成自定义 LLM。
1.1.2. Red Hat OpenShift AI with OpenShift Lightspeed
您可以使用 Red Hat OpenShift AI 托管 LLM。
如需更多信息，请参阅 Single-model serving platform。
1.1.3. IBM watsonx with OpenShift Lightspeed
要将 IBM watsonx 配置为 LLM 供应商，您需要一个可访问 IBM watsonx 的 IBM Cloud 项目。您还需要 IBM watsonx API 密钥。
如需更多信息，请参阅官方 IBM watsonx 产品文档。
1.1.4. OpenAI with OpenShift Lightspeed
要使用 OpenShift Lightspeed 将 OpenAI 配置为 LLM 供应商，您需要在配置过程中使用 OpenAI API 密钥或 OpenAI 项目名称。
OpenAI 服务具有项目和服务帐户的功能。您可以在专用项目中使用服务帐户，以便您可以精确跟踪 OpenShift Lightspeed 的使用情况。
如需更多信息，请参阅官方 OpenAI 产品文档。
1.1.5. Microsoft Azure OpenAI with OpenShift Lightspeed
要将 Microsoft Azure OpenAI 配置为 LLM 供应商，您需要一个 Microsoft Azure OpenAI Service 实例。您必须在 Microsoft Azure OpenAI Studio 中为该实例至少有一个模型部署。
如需更多信息，请参阅官方 Microsoft Azure OpenAI 产品文档。
'%20d='M201.5%20305.5c-13.8%200-24.9-11.1-24.9-24.6%200-13.8%2011.1-24.9%2024.9-24.9%2013.6%200%2024.6%2011.1%2024.6%2024.9%200%2013.6-11.1%2024.6-24.6%2024.6zM504%20256c0%20137-111%20248-248%20248S8%20393%208%20256%20119%208%20256%208s248%20111%20248%20248zm-132.3-41.2c-9.4%200-17.7%203.9-23.8%2010-22.4-15.5-52.6-25.5-86.1-26.6l17.4-78.3%2055.4%2012.5c0%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.3%2024.9-24.9s-11.1-24.9-24.9-24.9c-9.7%200-18%205.8-22.1%2013.8l-61.2-13.6c-3-.8-6.1%201.4-6.9%204.4l-19.1%2086.4c-33.2%201.4-63.1%2011.3-85.5%2026.8-6.1-6.4-14.7-10.2-24.1-10.2-34.9%200-46.3%2046.9-14.4%2062.8-1.1%205-1.7%2010.2-1.7%2015.5%200%2052.6%2059.2%2095.2%20132%2095.2%2073.1%200%20132.3-42.6%20132.3-95.2%200-5.3-.6-10.8-1.9-15.8%2031.3-16%2019.8-62.5-14.9-62.5zM302.8%20331c-18.2%2018.2-76.1%2017.9-93.6%200-2.2-2.2-6.1-2.2-8.3%200-2.5%202.5-2.5%206.4%200%208.6%2022.8%2022.8%2087.3%2022.8%20110.2%200%202.5-2.2%202.5-6.1%200-8.6-2.2-2.2-6.1-2.2-8.3%200zm7.7-75c-13.6%200-24.6%2011.1-24.6%2024.9%200%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.1%2024.9-24.6%200-13.8-11-24.9-24.9-24.9z'/%3e%3c/svg%3e){kind=small}