1.3. 使用 CLI 创建凭证 secret
创建与 API 令牌关联的文件,用于访问大型语言模型(LLM)提供程序的 API。通常,您可以使用 API 令牌来验证 LLM 供应商。另外,Microsoft Azure 还支持使用 Microsoft Entra ID 进行身份验证。
先决条件
-
您可以使用具有
cluster-admin
角色的用户访问 OpenShift CLI (oc
)。或者,您也登录到有权创建 secret 来存储提供程序令牌的用户帐户。 - 已安装 OpenShift Lightspeed Operator。
流程
创建一个包含您使用的 LLM 供应商内容的 YAML 文件。
注意无论 LLM 供应商调用访问详情,YAML 参数始终为
apitoken
。LLM 供应商的凭证 secret
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
api_token
不采用base64
编码。
Credential secret for Red Hat Enterprise Linux AI
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- 当存储在 secret 中时,
api_token
必须采用base64
编码。
Credential secret for Red Hat OpenShift AI
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- 当存储在 secret 中时,
api_token
必须采用base64
编码。
IBM watsonx 的凭证 secret
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- 当存储在 secret 中时,
api_token
必须采用base64
编码。
Microsoft Azure OpenAI 的凭证 secret
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- 当存储在 secret 中时,
api_token
必须采用base64
编码。
另外,对于 Microsoft Azure OpenAI,您可以使用 Microsoft Entra ID 来验证 LLM 供应商。Microsoft Entra ID 用户必须为其 Microsoft Azure OpenAI 资源配置所需的角色。如需更多信息,请参阅官方 Microsoft Cognitive Services OpenAI Contributor(Microsoft Azure OpenAI Service 文档)。
Microsoft Entra ID 的凭证 secret
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 运行以下命令来创建 secret:
oc create -f /path/to/secret.yaml
$ oc create -f /path/to/secret.yaml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow