第 1 章 安装概述
Red Hat Enterprise Linux AI 作为可引导镜像提供并可安装。此可引导镜像包括保存 RHEL AI 的各种软件和工具的容器。每个镜像都是编译的,以支持特定的硬件供应商。每个 RHEL AI 镜像包括:
- Red Hat Enterprise Linux 9.4 : 您的机器的 RHEL 版本 9.4 操作系统(OS)。
InstructLab 容器: 包含InstructLab 以及 RHEL AI 所需的各种其他工具。这包括:
- Python 版本 3.11:InstructLab 内部使用的 Python 3.11 安装。
InstructLab 工具:
- InstructLab 命令行界面(CLI)。
- LAB 增强型数据生成方法(SDG)。
- LAB 增强了多阶段培训方法。
- 带有 vLLM 的 InstructLab:大型语言模型(LLM)的高输入推测和服务引擎。
- InstructLab with DeepSpeed:可加快培训流程的硬件优化软件。FSDP 的类似功能。
- 带有 FSDP 的 InstructLab:一个使培训更快、效率更高的培训框架。DeepSpeed 的类似功能
Red Hat Enterprise Linux AI 版本 1.5 还包括一个样本税务树,包含可用于下载和用于培训模型的专业知识与知识示例。
为了正式发布,有三个安装和部署 Red Hat Enterprise Linux AI 的选项。
使用 Red Hat Enterprise Linux AI 正式发布后,您可以手动下载您可以聊天并与之交互的开源 Granite LLM。有关下载这些模型的更多信息,请参阅 下载其他模型。