1.8. BYO Knowledge ツールについて

手順

1. 次のコマンドを実行して、検索拡張生成 (RAG) データベースの Markdown ファイルがあるディレクトリーの場所と、BYO Knowledge ツールによって生成されるイメージのパスを指定します。

   $ podman run -it --rm --device=/dev/fuse \
     -v $XDG_RUNTIME_DIR/containers/auth.json:/run/user/0/containers/auth.json:Z \
     -v <dir_tree_with_markdown_files>:/markdown:Z \
     -v <dir_for_image_tar>:/output:Z \
     registry.redhat.io/openshift-lightspeed-tech-preview/lightspeed-rag-tool-rhel9:latest

   Copy to Clipboard Toggle word wrap
   注記

   ツールによって生成されるコンテナーイメージには、カスタム RAG データベースが含まれています。RAG データベースは LLM に追加情報を提供します。

2. 次のコマンドを実行して、BYO Knowledge ツールによって生成されたコンテナーイメージをロードします。

   $ podman load < <directory_for_image_tar>/<my-byok-image.tar>

   Copy to Clipboard Toggle word wrap

3. 次のコマンドを実行して、ローカルコンピューター上にある podman イメージを表示します。

   $ podman images

   Copy to Clipboard Toggle word wrap

   出力例

   REPOSITORY                            TAG                IMAGE ID      CREATED       SIZE
   localhost/my-byok-image               latest             be7d1770bf10  1 minute  ago    2.37 GB
   ...

   Copy to Clipboard Toggle word wrap

4. 次のコマンドを実行して、ローカルイメージに名前と宛先のタグを付け、イメージをコンテナーイメージレジストリーにプッシュできるようにします。

   $ podman tag localhost/my-byok-image:latest quay.io/<username>/my-byok-image:latest

   Copy to Clipboard Toggle word wrap

5. 次のコマンドを実行して、ローカルコンテナーイメージをコンテナーイメージレジストリーにプッシュします。

   $ podman push quay.io/<username>/my-byok-image:latest

   Copy to Clipboard Toggle word wrap

6. OLSconfig CR を変更して、新しく作成された RAG データベースを既存のデータベースと一緒にデプロイします。

   1. OpenShift Container Platform Web コンソールで、Operators Installed Operators をクリックします。
   2. 画面上部の Project ドロップダウンメニューで All Projects を選択します。
   3. OpenShift Lightspeed Operator をクリックします。
   4. OLSConfig をクリックし、一覧にある cluster 設定インスタンスをクリックします。
   5. YAML タブをクリックします。

   6. spec.ols.rag yaml コードを挿入します。

      OLSconfig CR ファイルの例

      apiVersion: ols.openshift.io/v1alpha1
      kind: OLSConfig
      metadata:
        name: cluster
      spec:
        ols:
          rag:
            - image: quay.io/<username>/my-byok-image:latest 

      1

      Copy to Clipboard Toggle word wrap

      1

      ここで、image は OpenShift Lightspeed Operator がカスタムコンテンツにアクセスできるように、イメージレジストリーにプッシュされたイメージのタグを指定します。OpenShift Lightspeed Operator は、作成した複数の RAG データベースを操作できます。

7. Save をクリックします。