Red Hat Summit1장. OpenShift Lightspeed 설치
Red Hat OpenShift Lightspeed 설치 프로세스는 Lightspeed Operator 설치 및 대용량 언어 모델(LLM) 공급자와 상호 작용하도록 Lightspeed 서비스 구성의 두 가지 주요 작업으로 구성됩니다.
1.1. LLM(Large Language Model) 개요
LLM(Large Language Model)은 대량의 데이터를 학습한 인공 지능 프로그램의 한 유형입니다. OpenShift Lightspeed 서비스는 Cryostat와 상호 작용하여 질문에 대한 답변을 생성합니다.
Red Hat Enterprise Linux AI 또는 Red Hat OpenShift AI를 OpenShift Lightspeed 서비스의 Cryostat 공급자로 구성할 수 있습니다. Cryostat 공급자는 유추 쿼리를 처리하는 서버 또는 유추 서비스를 사용할 수 있습니다.
또는 IBM watsonx, OpenAI 또는 Microsoft Azure OpenAI와 같은 공개적으로 사용 가능한 Cryostat 공급자에 OpenShift Lightspeed 서비스를 연결할 수 있습니다.
OpenShift Lightspeed Operator를 설치하기 전에 Cryostat 공급자를 구성합니다. Operator를 설치해도 Cryostat 공급자를 설치하지 않습니다.
1.1.1. OpenShift Lightspeed를 사용한 Red Hat Enterprise Linux AI
Red Hat Enterprise Linux AI를 사용하여 Cryostat를 호스팅할 수 있습니다.
자세한 내용은 RHEL AI를 사용하여 사용자 지정 Cryostat 생성 을 참조하십시오.
1.1.2. OpenShift Lightspeed를 사용한 Red Hat OpenShift AI
Red Hat OpenShift AI를 사용하여 Cryostat를 호스팅할 수 있습니다.
자세한 내용은 단일 모델 제공 플랫폼을 참조하십시오.
1.1.3. IBM watsonx with OpenShift Lightspeed
IBM watsonx를 Cryostat 공급자로 구성하려면 IBM watsonx에 액세스할 수 있는 IBM Cloud 프로젝트가 필요합니다. IBM watsonx API 키도 필요합니다.
자세한 내용은 공식 IBM watsonx 제품 설명서를 참조하십시오.
1.1.4. OpenShift Lightspeed를 사용한 OpenAI
OpenShift Lightspeed를 사용하여 OpenAI 공급자를 구성하려면 구성 프로세스 중에 OpenAI API 키 또는 OpenAI 프로젝트 이름이 필요합니다.
OpenAI Service에는 프로젝트 및 서비스 계정의 기능이 있습니다. OpenShift Lightspeed 사용량을 정확하게 추적할 수 있도록 전용 프로젝트에서 서비스 계정을 사용할 수 있습니다.
자세한 내용은 OpenAI 제품 설명서 를 참조하십시오.
1.1.5. OpenShift Lightspeed를 사용한 Microsoft Azure OpenAI
Microsoft Azure OpenAI를 Cryostat 공급자로 구성하려면 Microsoft Azure OpenAI Service 인스턴스가 필요합니다. 해당 인스턴스에 대해 Microsoft Azure OpenAI Studio에 하나 이상의 모델 배포가 있어야 합니다.
자세한 내용은 공식 Microsoft Azure OpenAI 제품 설명서를 참조하십시오.
'%20d='M201.5%20305.5c-13.8%200-24.9-11.1-24.9-24.6%200-13.8%2011.1-24.9%2024.9-24.9%2013.6%200%2024.6%2011.1%2024.6%2024.9%200%2013.6-11.1%2024.6-24.6%2024.6zM504%20256c0%20137-111%20248-248%20248S8%20393%208%20256%20119%208%20256%208s248%20111%20248%20248zm-132.3-41.2c-9.4%200-17.7%203.9-23.8%2010-22.4-15.5-52.6-25.5-86.1-26.6l17.4-78.3%2055.4%2012.5c0%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.3%2024.9-24.9s-11.1-24.9-24.9-24.9c-9.7%200-18%205.8-22.1%2013.8l-61.2-13.6c-3-.8-6.1%201.4-6.9%204.4l-19.1%2086.4c-33.2%201.4-63.1%2011.3-85.5%2026.8-6.1-6.4-14.7-10.2-24.1-10.2-34.9%200-46.3%2046.9-14.4%2062.8-1.1%205-1.7%2010.2-1.7%2015.5%200%2052.6%2059.2%2095.2%20132%2095.2%2073.1%200%20132.3-42.6%20132.3-95.2%200-5.3-.6-10.8-1.9-15.8%2031.3-16%2019.8-62.5-14.9-62.5zM302.8%20331c-18.2%2018.2-76.1%2017.9-93.6%200-2.2-2.2-6.1-2.2-8.3%200-2.5%202.5-2.5%206.4%200%208.6%2022.8%2022.8%2087.3%2022.8%20110.2%200%202.5-2.2%202.5-6.1%200-8.6-2.2-2.2-6.1-2.2-8.3%200zm7.7-75c-13.6%200-24.6%2011.1-24.6%2024.9%200%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.1%2024.9-24.6%200-13.8-11-24.9-24.9-24.9z'/%3e%3c/svg%3e){kind=small}