Red Hat Summit1.2. InstructLab 및 RHEL AI
InstructLab은 대규모 언어 모델에 대한 기여를 용이하게 하는 오픈 소스 AI 프로젝트입니다. RHEL AI는 InstructLab 프로젝트의 기반을 확보하고, 애플리케이션에 대한 Cryostat 통합을 위한 엔터프라이즈 플랫폼을 구축합니다. Red Hat Enterprise Linux AI는 전용 GPU(그래픽 처리 장치)를 사용하여 고성능 서버 플랫폼을 대상으로 합니다. InstructLab은 랩탑 및 개인 컴퓨터를 포함한 소규모 플랫폼을 대상으로 합니다.
InstructLab은 chatBots에 대한 LAB(Large-scale Alignment for chatBots) 기술을 구현합니다. LAB 프로세스는 여러 구성 요소로 구성됩니다.
- taxonomy-guided 합성 데이터 생성 프로세스
- 다단계 교육 프로세스
- 미세 조정 프레임워크
RHEL AI 및 InstructLab을 사용하면 별도의 사용 사례에 대한 도메인별 지식을 사용하여 Cryostat를 사용자 지정할 수 있습니다.
1.2.1. 기술 및 지식 소개
기술과 지식은 분류에 추가할 수 있는 데이터 유형입니다. 그런 다음 이러한 유형을 사용하여 자체 데이터로 미세 조정된 사용자 지정 Cryostat 모델을 만들 수 있습니다.
1.2.1.1. 지식
AI 모델에 대한 지식이 데이터 및 사실로 구성됩니다. 모델에 대한 지식 세트를 생성할 때 추가 데이터 및 정보를 제공하여 모델이 질문에 보다 정확하게 응답할 수 있도록 합니다. AI 모델이 무엇인가를 수행하는 방법에 대한 정보인 경우, 지식은 사실, 데이터 또는 참조와 관련된 질문에 대답하는 모델의 기능을 기반으로 합니다. 예를 들어 제품의 문서가 포함된 데이터 세트를 생성할 수 있으며 모델은 해당 문서에 제공된 정보를 배울 수 있습니다.
1.2.1.2. 기술
기술은 제출된 정보로 AI 모델을 훈련하려는 기능 도메인입니다. 기술을 만들 때, 당신은 작업을 수행하는 방법을 모델을 교육하고 있습니다. RHEL AI에 대한 기술은 카테고리로 나뉩니다.
구성 기술: 가정 기술을 통해 AI 모델이 특정 작업 또는 기능을 수행할 수 있습니다. 구성 기술의 두 가지 유형이 있습니다.
- Freeform 구성 기술: 기능에 추가 컨텍스트 또는 정보가 필요하지 않은 수행 기술입니다.
- 기본 구성 기술: 이는 추가 컨텍스트가 필요한 수행 기술입니다. 예를 들어 모델을 테이블을 읽도록 유도할 수 있습니다. 여기서 추가 컨텍스트는 테이블 레이아웃의 예제입니다.
- Foundation Technology: Foundational 기술은 math, reasoning 및 coding을 포함하는 기술입니다.
'%20d='M201.5%20305.5c-13.8%200-24.9-11.1-24.9-24.6%200-13.8%2011.1-24.9%2024.9-24.9%2013.6%200%2024.6%2011.1%2024.6%2024.9%200%2013.6-11.1%2024.6-24.6%2024.6zM504%20256c0%20137-111%20248-248%20248S8%20393%208%20256%20119%208%20256%208s248%20111%20248%20248zm-132.3-41.2c-9.4%200-17.7%203.9-23.8%2010-22.4-15.5-52.6-25.5-86.1-26.6l17.4-78.3%2055.4%2012.5c0%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.3%2024.9-24.9s-11.1-24.9-24.9-24.9c-9.7%200-18%205.8-22.1%2013.8l-61.2-13.6c-3-.8-6.1%201.4-6.9%204.4l-19.1%2086.4c-33.2%201.4-63.1%2011.3-85.5%2026.8-6.1-6.4-14.7-10.2-24.1-10.2-34.9%200-46.3%2046.9-14.4%2062.8-1.1%205-1.7%2010.2-1.7%2015.5%200%2052.6%2059.2%2095.2%20132%2095.2%2073.1%200%20132.3-42.6%20132.3-95.2%200-5.3-.6-10.8-1.9-15.8%2031.3-16%2019.8-62.5-14.9-62.5zM302.8%20331c-18.2%2018.2-76.1%2017.9-93.6%200-2.2-2.2-6.1-2.2-8.3%200-2.5%202.5-2.5%206.4%200%208.6%2022.8%2022.8%2087.3%2022.8%20110.2%200%202.5-2.2%202.5-6.1%200-8.6-2.2-2.2-6.1-2.2-8.3%200zm7.7-75c-13.6%200-24.6%2011.1-24.6%2024.9%200%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.1%2024.9-24.6%200-13.8-11-24.9-24.9-24.9z'/%3e%3c/svg%3e){kind=small}