5.5. 部署 Ansible Lightspeed 智能助手

流程

1. 以管理员身份登录 Red Hat OpenShift Container Platform。
2. 导航到 Workloads Secrets。
3. 在 Projects 列表中，选择安装 Ansible Automation Platform Operator 时创建的命名空间。
4. 单击 Create Key/value secret。
5. 在 Secret name 字段中输入 secret 的唯一名称。例如，chatbot-configuration-secret。

6. 单独添加以下键及其关联的值：

   Expand

   键	value
   所有 LLM 设置的设置
   chatbot_model	输入在 LLM 设置中配置的 LLM 模型名称。
   chatbot_url	输入 LLM 设置上的 inference API 基础 URL。例如： https://your_inference_api/v1。
   chatbot_token	输入 API 令牌或 API 密钥。当调用 inference API 时，此令牌会与授权标头一起发送。
   chatbot_llm_provider_type	可选 使用以下值之一输入 LLM 设置的供应商类型： Red Hat Enterprise Linux AI: rhelai_vllm Red Hat OpenShift AI： rhoai_vllm （默认值） IBM watsonx.ai: watsonx OpenAI: openai Microsoft Azure OpenAI: azure_openai
   chatbot_context_window_size	可选 输入一个值来为您的 LLM 设置配置上下文窗口长度。 Default= 128000
   chatbot_temperature_override	可选 较低温度会生成可预测的结果，而较高的温度允许更多元化或创造性响应。 输入以下值之一： 0 ：响应中最少的 creativity 和 randomness。 1： 响应中的最大城市和随机性。 null: Override 或禁用默认温度设置。 注意 一些 OpenAI o-series 模型(o1、o3-mini 和 o4-mini 模型)不支持温度设置。因此，您必须将值设为 null 以使用这些 OpenAI 模型。
   仅限 IBM watsonx.ai 的额外设置
   chatbot_llm_provider_project_id	输入 IBM watsonx 设置的项目 ID。
   仅限 Microsoft Azure OpenAI 的其他设置
   chatbot_azure_deployment_name	输入 Microsoft Azure OpenAI 设置的部署名称。
   chatbot_azure_api_version	可选 输入 Microsoft Azure OpenAI 设置的 API 版本。

   Show more
7. 点 Create。chatbot 授权 secret 已成功创建。

流程

1. 以管理员身份登录 Red Hat OpenShift Container Platform。
2. 进入到 Operators Installed Operators。
3. 从安装的 Operator 列表中，选择 Ansible Automation Platform operator。
4. 找到并选择 Ansible Automation Platform 自定义资源，然后点所需的应用程序。
5. 选择 YAML 选项卡。

6. 滚动文本以查找 spec: 部分，并在 spec: 部分中添加以下详情：

   spec:
     lightspeed:
       disabled: false
       chatbot_config_secret_name: <name of your chatbot configuration secret>

   Copy to Clipboard Toggle word wrap
7. 点 Save。Ansible Lightspeed 智能助手服务需要几分钟的时间来设置。

验证

1. 验证 chat 接口服务是否已成功运行：

   1. 导航到 Workloads Pods。

   2. 使用术语 api 过滤，并确保以下 API 显示为 Running 状态：

      • myaap-lightspeed-api-<version number>
      • myaap-lightspeed-chatbot-api-<version number>

2. 验证 chat 接口是否在 Ansible Automation Platform 中显示：

   1. 访问 Ansible Automation Platform：

      1. 进入到 Operators Installed Operators。
      2. 从安装的 Operator 列表中，点 Ansible Automation Platform。
      3. 找到并选择 Ansible Automation Platform 自定义资源，然后点您创建的应用程序。

      4. 在 Details 选项卡中，记录以下字段中的信息：

         • URL: 这是 Ansible Automation Platform 实例的 URL。
         • Gateway Admin User: 这是登录 Ansible Automation Platform 实例的用户名。
         • 网关管理密码 ：这是登录 Ansible Automation Platform 实例的密码。
      5. 使用您之前记录的 URL、用户名和密码登录到 Ansible Automation Platform。

   2. 访问 Ansible Lightspeed 智能助手：

      1. 点任务栏右上角的 Ansible Lightspeed 智能助手图标 。

      2. 验证 chat 接口是否已显示，如下图所示：

         .