第 4 章 开发人员预览功能
本节介绍 Red Hat OpenShift AI 2.17 中的开发人员技术预览功能。Developer Preview(开发人员预览)功能不被红帽支持,其功能可能并不完善且不是生产环境就绪。不要将开发人员预览功能用于生产环境或业务关键型工作负载。开发人员预览功能在红帽产品产品中包括早期对功能的访问。客户可以使用这些功能在开发过程中测试并提供反馈。开发人员预览功能可能没有任何文档,可以随时更改或删除,并且已获得有限的测试。红帽可能会提供在没有关联 SLA 的情况下提交对开发人员预览功能的反馈。
有关红帽开发人员预览功能的支持范围的更多信息,请参阅 开发人员预览支持范围。
- 支持 Kueue 中的 AppWrapper
- Kue 中的 AppWrapper 支持作为开发者技术预览功能提供。实验性 API 支持使用带有分布式工作负载功能的基于 AppWrapper 的工作负载。
- 分布式非实验室培训
InstructLab 是一个开源项目,用于增强大型语言模型(LLM),以定性智能(gen AI)应用程序来增强大型语言模型(LLM)。它利用复合数据生成(SDG)技术和结构化税务创建各种高质量培训数据集来微调模型。
运行 InstructLab 培训流的方法有两种:InstructLab 管道(推荐的方法)和 standalone 脚本:
InstructLab 管道
InstructLab 管道现在作为开发者预览功能提供,您可以通过 OpenShift AI 中的数据科学管道运行完整的 InstructLab 工作流。有关运行此管道的先决条件和设置说明,请参阅在 RHOAI 上运行带有 Data Science Pipelines 的 InstructLab Pipeline。
重要已安装 NVIDIA GPU Operator 24.6,才能在 OpenShift AI 2.17 中使用 InstructLab 管道。
独立脚本
分布式基础架构实验室培训作为开发者预览功能提供,与单节点设置相比,为分布式环境中培训任务提供增强的性能。通过编排多节点培训作业,此功能提高了效率和可扩展性,并允许用户利用分布式资源进行更有效的 AI 模型开发。要使用独立脚本实施完整的 InstructLab 培训流程,包括数据准备、传输和分布式执行,请参见 RHOAI 的分布式非结构化实验室培训。