第 1 章 配置和部署 OpenShift Lightspeed

流程

1. 点击 OpenShift Web 控制台右上角的 Quick create ( )菜单，然后选择 Import YAML。

2. 将您使用的 LLM 供应商的 YAML 内容粘贴到 web 控制台的文本区域。

   注意

   无论 LLM 供应商调用访问详情，YAML 参数始终为 apitoken。

   LLM 供应商的凭证 secret

   apiVersion: v1
   kind: Secret
   metadata:
     name: credentials
     namespace: openshift-lightspeed
   type: Opaque
   stringData:
     apitoken: <api_token> 

   1

   Copy to Clipboard Toggle word wrap

   1

   api_token 不采用 base64 编码。

   Credential secret for Red Hat Enterprise Linux AI

   apiVersion: v1
   data:
     apitoken: <api_token> 

   1

   
   kind: Secret
   metadata:
     name: rhelai-api-keys
     namespace: openshift-lightspeed
   type: Opaque

   Copy to Clipboard Toggle word wrap

   1

   当存储在 secret 中时，api_token 必须采用 base64 编码。

   Credential secret for Red Hat OpenShift AI

   apiVersion: v1
   data:
     apitoken: <api_token> 

   1

   
   kind: Secret
   metadata:
     name: rhoai-api-keys
     namespace: openshift-lightspeed
   type: Opaque

   Copy to Clipboard Toggle word wrap

   1

   当存储在 secret 中时，api_token 必须采用 base64 编码。

   IBM watsonx 的凭证 secret

   apiVersion: v1
   data:
     apitoken: <api_token> 

   1

   
   kind: Secret
   metadata:
     name: watsonx-api-keys
     namespace: openshift-lightspeed
   type: Opaque

   Copy to Clipboard Toggle word wrap

   1

   当存储在 secret 中时，api_token 必须采用 base64 编码。

   Microsoft Azure OpenAI 的凭证 secret

   apiVersion: v1
   data:
     apitoken: <api_token> 

   1

   
   kind: Secret
   metadata:
     name: azure-api-keys
     namespace: openshift-lightspeed
   type: Opaque

   Copy to Clipboard Toggle word wrap

   1

   当存储在 secret 中时，api_token 必须采用 base64 编码。

   另外，对于 Microsoft Azure OpenAI，您可以使用 Microsoft Entra ID 来验证 LLM 供应商。Microsoft Entra ID 用户必须为其 Microsoft Azure OpenAI 资源配置所需的角色。如需更多信息，请参阅官方 Microsoft Cognitive Services OpenAI Contributor(Microsoft Azure OpenAI Service 文档)。

   Microsoft Entra ID 的凭证 secret

   apiVersion: v1
   data:
     client_id: <base64_encoded_client_id>
     client_secret: <base64_encoded_client_secret>
     tenant_id: <base64_encoded_tenant_id>
   kind: Secret
   metadata:
     name: azure-api-keys
     namespace: openshift-lightspeed
   type: Opaque

   Copy to Clipboard Toggle word wrap

3. 点 Create。