1.9. 클러스터 상호 작용 정보
OpenShift Lightspeed 서비스는 대용량 언어 모델(LLM)을 사용하여 질문에 대한 응답을 생성합니다. 클러스터 상호 작용 기능을 활성화하여 OpenShift Container Platform 클러스터에 대한 정보를 사용하여 Cryostat에 제공되는 지식을 향상시킬 수 있습니다. 클러스터에 포함된 Kubernetes 오브젝트에 대한 정보를 제공하면 Cryostat가 환경에 대한 매우 구체적인 응답을 생성할 수 있습니다.
모델 컨텍스트 프로토콜(MCP)은 애플리케이션이 컨텍스트를 제공하는 방법을 표준화하는 오픈 프로토콜입니다. MCP 서버는 프로토콜을 사용하여 외부 리소스에서 실시간 정보를 요청 및 수신하여 context를 늘리기 위한 표준화된 방법을 제공합니다.
클러스터 상호 작용을 활성화하면 OpenShift Lightspeed Operator가 MCP 서버를 설치합니다. MCP 서버는 OpenShift Lightspeed 서비스에 OpenShift API에 액세스할 수 있습니다. 이 액세스를 통해 서비스는 읽기 작업을 수행하여 ScanSetting에 대한 더 많은 컨텍스트를 수집하여 서비스에서 OpenShift 클러스터에 있는 Kubernetes 오브젝트에 대한 질문에 답변할 수 있습니다.
툴을 효과적으로 선택하고 사용할 수 있는 OpenShift Lightspeed의 기능은 대규모 언어(LLM) 모델에 매우 민감합니다. 일반적으로 더 많은 매개 변수가 있는 대규모 모델은 더 잘 수행되며 가장 좋은 성능은 최신 AI 기능을 나타내는 매우 큰 경계 모델에서 제공됩니다. 작은 모델을 사용할 때 툴 선택 또는 클러스터 상호 작용의 다른 측면에서 성능이 저하될 수 있습니다.
OpenShift Lightspeed Service에서 클러스터 상호 작용 기능을 활성화하려면 Cryostat 공급자에서 툴 호출을 활성화해야 합니다.
툴 호출을 활성화하면 토큰 사용이 크게 증가할 수 있습니다. 공개 모델 공급자를 사용하면 토큰 사용량을 늘리면 청구 비용이 증가할 수 있습니다.
1.9.1. 클러스터 상호 작용 활성화 링크 복사링크가 클립보드에 복사되었습니다!
클러스터 상호 작용 기능을 활성화하려면 OLSConfig
사용자 지정 리소스를 수정합니다.
클러스터 상호 작용 기능은 기술 프리뷰 기능 전용입니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.
Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.
사전 요구 사항
-
cluster-admin
역할의 사용자로 OpenShift Container Platform 웹 콘솔에 로그인되어 있습니다. 또는 클러스터 범위 CR을 생성할 수 있는 권한이 있는 사용자 계정에 로그인할 수 있습니다. - LLM(Large Language Model) 공급자를 구성했습니다.
- OpenShift Lightspeed Operator가 설치되어 있습니다.
프로세스
-
OpenShift Container Platform 웹 콘솔에서 Operator
설치된 Operator를 클릭합니다. - OpenShift Lightspeed Operator를 클릭합니다.
-
OLSConfig 를 클릭한 다음 목록에서
클러스터
구성 인스턴스를 클릭합니다. - YAML 탭을 클릭합니다.
spec.ols.introspectionEnabled
매개변수를true
로 설정하여 클러스터 상호 작용을 활성화합니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 저장을 클릭합니다.
검증
OpenShift Lightspeed 가상 도우미에 액세스하여 클러스터와 관련된 질문을 제출합니다.
OpenShift Lightspeed 가상 도우미는 사용자 환경과 관련된 고도로 세분화된 응답을 생성합니다.
1.9.2. 사용자 지정 MCP 서버 활성화 링크 복사링크가 클립보드에 복사되었습니다!
대용량 언어 모델(LLM)이 툴을 사용하여 질문에 대한 답변을 생성하도록 사용자 환경의 툴과 상호 작용하는 추가 MCP 서버를 추가합니다.
클러스터 상호 작용 기능은 기술 프리뷰 기능 전용입니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.
Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.
사전 요구 사항
- OpenShift Lightspeed Operator가 설치되어 있습니다.
- 대규모 언어 모델 공급자를 구성했습니다.
- OpenShift Lightspeed 서비스를 배포했습니다.
프로세스
다음 명령을 실행하여 OpenShift Lightspeed
OLSconfig
CR(사용자 정의 리소스) 파일을 엽니다.oc edit olsconfig cluster
$ oc edit olsconfig cluster
Copy to Clipboard Copied! Toggle word wrap Toggle overflow spec.ols.featureGates
사양 파일에MCPServer
를 추가하고 MCP 서버 정보를 포함합니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 1
- MCP 서버 기능을 지정합니다.
- 2
- MCP 서버의 이름을 지정합니다.
- 3
- MCP 서버가 통신하는 데 사용하는 URL 경로를 지정합니다.
- 4
- MCP 서버가 쿼리에 응답해야 하는 시간을 지정합니다. 클라이언트가 지정된 시간 내에 쿼리를 수신하지 않으면 MCP 서버가 시간 초과됩니다. 이 예에서 시간 초과는 30초입니다.
- 5
- 클라이언트가 SSE(Server-Sent Events) 연결에서 새 데이터를 기다리는 시간을 지정합니다. 클라이언트가 해당 시간 내에 데이터를 수신하지 않으면 클라이언트가 연결을 종료합니다.
- 6
- HTTP 요청이 MCP 서버에 전송하는 추가 헤더를 지정합니다.
- 7
enableSSE
를true
로 설정하면 MCP 서버에서 서버에 새 정보가 있을 때마다 MCP 서버가 클라이언트에 업데이트를 내보내는 데 사용하는 단방향 채널을 설정합니다. 기본 설정은false
입니다.
저장을 클릭합니다.
저장 작업은 파일을 저장하고 변경 사항을 적용하여 OpenShift Lightspeed 서비스에서 MCP 서버를 사용할 수 있도록 합니다.