Red Hat Summit1장. 설치 개요
Red Hat Enterprise Linux AI는 부팅 가능한 이미지로 배포 및 설치할 수 있습니다. 이 부팅 가능한 이미지에는 RHEL AI용 다양한 소프트웨어 및 툴을 보유하는 컨테이너가 포함됩니다. 각 이미지는 특정 하드웨어 공급 업체를 지원하도록 컴파일됩니다. 각 RHEL AI 이미지에는 다음이 포함됩니다.
- Red Hat Enterprise Linux 9.4: 시스템의 RHEL 버전 9.4 운영 체제(OS)입니다.
InstructLab 컨테이너: RHEL AI에 필요한 InstructLab 및 기타 다양한 도구가 포함되어 있습니다. 여기에는 다음이 포함됩니다.
- Python 버전 3.11: InstructLab에서 내부적으로 사용하는 Python 3.11 설치입니다.
InstructLab 툴:
- InstructLab CLI(명령줄 인터페이스)입니다.
- 합성 데이터 생성(SDG)의 LAB 향상 방법.
- 다중 단계 교육 방법 강화
- vLLM을 사용한 InstructLab: LLM(Large Language Models)을 위한 높은 입력 추론 및 서빙 엔진.
- InstructLab with DeepSpeed: 교육 프로세스의 속도를 높이는 하드웨어 최적화 소프트웨어입니다. FSDP의 비슷한 기능입니다.
- FSDP를 사용한 InstructLab: 교육을 더 빠르고 효율적으로 만드는 교육 프레임워크입니다. DeepSpeed의 유사한 기능
Red Hat Enterprise Linux AI 버전 1.5에는 모델을 교육하는 데 사용할 수 있는 기술과 지식 예제가 포함된 샘플 taxonomy 트리도 포함되어 있습니다.
일반적으로 Red Hat Enterprise Linux AI 설치 및 배포를 위한 세 가지 옵션이 있습니다.
Red Hat Enterprise Linux AI 정식 출시를 통해 설치 후 채팅 및 상호 작용할 수 있는 오픈 소스 Granite Cryostats를 수동으로 다운로드할 수 있습니다. 이러한 모델을 다운로드하는 방법에 대한 자세한 내용은 추가 모델 다운로드를 참조하십시오.
'%20d='M201.5%20305.5c-13.8%200-24.9-11.1-24.9-24.6%200-13.8%2011.1-24.9%2024.9-24.9%2013.6%200%2024.6%2011.1%2024.6%2024.9%200%2013.6-11.1%2024.6-24.6%2024.6zM504%20256c0%20137-111%20248-248%20248S8%20393%208%20256%20119%208%20256%208s248%20111%20248%20248zm-132.3-41.2c-9.4%200-17.7%203.9-23.8%2010-22.4-15.5-52.6-25.5-86.1-26.6l17.4-78.3%2055.4%2012.5c0%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.3%2024.9-24.9s-11.1-24.9-24.9-24.9c-9.7%200-18%205.8-22.1%2013.8l-61.2-13.6c-3-.8-6.1%201.4-6.9%204.4l-19.1%2086.4c-33.2%201.4-63.1%2011.3-85.5%2026.8-6.1-6.4-14.7-10.2-24.1-10.2-34.9%200-46.3%2046.9-14.4%2062.8-1.1%205-1.7%2010.2-1.7%2015.5%200%2052.6%2059.2%2095.2%20132%2095.2%2073.1%200%20132.3-42.6%20132.3-95.2%200-5.3-.6-10.8-1.9-15.8%2031.3-16%2019.8-62.5-14.9-62.5zM302.8%20331c-18.2%2018.2-76.1%2017.9-93.6%200-2.2-2.2-6.1-2.2-8.3%200-2.5%202.5-2.5%206.4%200%208.6%2022.8%2022.8%2087.3%2022.8%20110.2%200%202.5-2.2%202.5-6.1%200-8.6-2.2-2.2-6.1-2.2-8.3%200zm7.7-75c-13.6%200-24.6%2011.1-24.6%2024.9%200%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.1%2024.9-24.6%200-13.8-11-24.9-24.9-24.9z'/%3e%3c/svg%3e){kind=small}