1.8. 关于 BYO 知识库工具

流程

1. 运行以下命令，使用 Markdown 文件为检索生成(RAG)数据库指定目录的位置，以及 BYO 知识库工具生成的镜像的路径：

   $ podman run -it --rm --device=/dev/fuse \
     -v $XDG_RUNTIME_DIR/containers/auth.json:/run/user/0/containers/auth.json:Z \
     -v <dir_tree_with_markdown_files>:/markdown:Z \
     -v <dir_for_image_tar>:/output:Z \
     registry.redhat.io/openshift-lightspeed-tech-preview/lightspeed-rag-tool-rhel9:latest

   Copy to Clipboard Toggle word wrap
   注意

   工具生成的容器镜像包含自定义 RAG 数据库。RAG 数据库向 LLM 提供其他信息。

2. 运行以下命令，加载 BYO 知识库工具生成的容器镜像：

   $ podman load < <directory_for_image_tar>/<my-byok-image.tar>

   Copy to Clipboard Toggle word wrap

3. 运行以下命令，显示本地计算机上的 podman 镜像：

   $ podman images

   Copy to Clipboard Toggle word wrap

   输出示例

   REPOSITORY                            TAG                IMAGE ID      CREATED       SIZE
   localhost/my-byok-image               latest             be7d1770bf10  1 minute  ago    2.37 GB
   ...

   Copy to Clipboard Toggle word wrap

4. 运行以下命令，使用名称和目的地标记本地镜像，以便镜像可以推送到容器镜像 registry 中：

   $ podman tag localhost/my-byok-image:latest quay.io/<username>/my-byok-image:latest

   Copy to Clipboard Toggle word wrap

5. 运行以下命令，将本地容器镜像推送到容器镜像 registry:

   $ podman push quay.io/<username>/my-byok-image:latest

   Copy to Clipboard Toggle word wrap

6. 修改 OLSconfig CR，以部署新创建的 RAG 数据库以及现有数据库：

   1. 在 OpenShift Container Platform web 控制台中，点击 Operators Installed Operators。
   2. 在屏幕顶部的 Project 下拉菜单中选择 All Projects。
   3. 点 OpenShift Lightspeed Operator。
   4. 单击 OLSConfig，然后单击列表中的 集群配置 实例。
   5. 点 YAML 标签。

   6. 插入 spec.ols.rag yaml 代码：

      OLSconfig CR 文件示例

      apiVersion: ols.openshift.io/v1alpha1
      kind: OLSConfig
      metadata:
        name: cluster
      spec:
        ols:
          rag:
            - image: quay.io/<username>/my-byok-image:latest 

      1

      Copy to Clipboard Toggle word wrap

      1

      其中 image 指定推送到镜像 registry 的镜像标签，以便 OpenShift Lightspeed Operator 可以访问自定义内容。OpenShift Lightspeed Operator 可以使用您创建的多个 RAG 数据库。

7. 点击 Save。