1.8. BYO Knowledge 툴 정보

프로세스

1. 검색 대상 생성(RAG) 데이터베이스에 대한 마크다운 파일이 있는 디렉터리의 위치와 다음 명령을 실행하여 BYO Knowledge 툴에서 생성하는 이미지의 경로를 지정합니다.

   $ podman run -it --rm --device=/dev/fuse \
     -v $XDG_RUNTIME_DIR/containers/auth.json:/run/user/0/containers/auth.json:Z \
     -v <dir_tree_with_markdown_files>:/markdown:Z \
     -v <dir_for_image_tar>:/output:Z \
     registry.redhat.io/openshift-lightspeed-tech-preview/lightspeed-rag-tool-rhel9:latest

   Copy to Clipboard Toggle word wrap
   참고

   툴에서 생성하는 컨테이너 이미지에는 사용자 지정 RAG 데이터베이스가 포함되어 있습니다. RAG 데이터베이스는 Cryostat에 대한 추가 정보를 제공합니다.

2. 다음 명령을 실행하여 BYO Knowledge 툴에서 생성한 컨테이너 이미지를 로드합니다.

   $ podman load < <directory_for_image_tar>/<my-byok-image.tar>

   Copy to Clipboard Toggle word wrap

3. 다음 명령을 실행하여 로컬 컴퓨터에 있는 podman 이미지를 표시합니다.

   $ podman images

   Copy to Clipboard Toggle word wrap

   출력 예

   REPOSITORY                            TAG                IMAGE ID      CREATED       SIZE
   localhost/my-byok-image               latest             be7d1770bf10  1 minute  ago    2.37 GB
   ...

   Copy to Clipboard Toggle word wrap

4. 다음 명령을 실행하여 이미지를 컨테이너 이미지 레지스트리로 내보낼 수 있도록 이름과 대상을 사용하여 로컬 이미지에 태그를 지정합니다.

   $ podman tag localhost/my-byok-image:latest quay.io/<username>/my-byok-image:latest

   Copy to Clipboard Toggle word wrap

5. 다음 명령을 실행하여 로컬 컨테이너 이미지를 컨테이너 이미지 레지스트리로 내보냅니다.

   $ podman push quay.io/<username>/my-byok-image:latest

   Copy to Clipboard Toggle word wrap

6. OLSconfig CR을 수정하여 새로 생성된 RAG 데이터베이스를 기존 데이터베이스와 함께 배포합니다.

   1. OpenShift Container Platform 웹 콘솔에서 Operator 설치된 Operator를 클릭합니다.
   2. 화면 상단에 있는 프로젝트 드롭다운에서 모든 프로젝트를 선택합니다.
   3. OpenShift Lightspeed Operator 를 클릭합니다.
   4. OLSConfig 를 클릭한 다음 목록에서 클러스터 구성 인스턴스를 클릭합니다.
   5. YAML 탭을 클릭합니다.

   6. spec.ols.rag yaml 코드를 삽입합니다.

      OLSconfig CR 파일의 예

      apiVersion: ols.openshift.io/v1alpha1
      kind: OLSConfig
      metadata:
        name: cluster
      spec:
        ols:
          rag:
            - image: quay.io/<username>/my-byok-image:latest 

      1

      Copy to Clipboard Toggle word wrap

      1

      여기서 image 는 OpenShift Lightspeed Operator가 사용자 정의 콘텐츠에 액세스할 수 있도록 이미지 레지스트리로 푸시된 이미지의 태그를 지정합니다. OpenShift Lightspeed Operator는 사용자가 생성하는 여러 RAG 데이터베이스에서 작업할 수 있습니다.

7. 저장을 클릭합니다.

프로세스

1. OpenShift Container Platform 웹 콘솔에서 Operator 설치된 Operator를 클릭합니다.
2. 화면 상단에 있는 프로젝트 목록에서 모든 프로젝트를 선택합니다.
3. OpenShift Lightspeed Operator 를 클릭합니다.
4. OLSConfig 를 클릭한 다음 목록에서 클러스터 구성 인스턴스를 클릭합니다.
5. YAML 탭을 클릭합니다.

6. spec.ols.byokRAGOnly YAML 코드를 삽입합니다.

   OLSconfig CR 파일의 예

   apiVersion: ols.openshift.io/v1alpha1
   kind: OLSConfig
   metadata:
     name: cluster
   spec:
     ols:
       byokRAGOnly: true 

   1

   Copy to Clipboard Toggle word wrap

   1

   OpenShift Lightspeed가 BYO Knowledge 기능을 사용하여 생성한 RAG 데이터베이스만 사용하도록 true 를 지정합니다. true 인 경우 OpenShift Lightspeed는 OpenShift Container Platform 문서가 포함된 기본 RAG 데이터베이스를 사용하지 않습니다.

7. 저장을 클릭합니다.