第 4 章 开发人员预览功能


重要

本节介绍 Red Hat OpenShift AI 中的开发人员预览功能。

Developer Preview(开发人员预览)功能不被红帽支持,其功能可能并不完善且不是生产环境就绪。不要将开发人员预览功能用于生产环境或业务关键型工作负载。开发人员预览功能在红帽产品产品中包括早期对功能的访问。客户可以使用这些功能在开发过程中测试并提供反馈。开发人员预览功能可能没有任何文档,可以随时更改或删除,并且已获得有限的测试。红帽可能会提供在没有关联 SLA 的情况下提交对开发人员预览功能的反馈。

有关红帽开发人员预览功能的支持范围的更多信息,请参阅 开发人员预览支持范围

支持 Kueue 中的 AppWrapper
Kue 中的 AppWrapper 支持作为开发者技术预览功能提供。实验性 API 支持使用带有分布式工作负载功能的基于 AppWrapper 的工作负载。
分布式非实验室培训

InstructLab 是一个开源项目,用于增强大型语言模型(LLM),以定性智能(gen AI)应用程序来增强大型语言模型(LLM)。它利用复合数据生成(SDG)技术和结构化税务创建各种高质量培训数据集来微调模型。

运行 InstructLab 培训流的方法有两种:InstructLab 管道(推荐的方法)和 standalone 脚本:

InstructLab 管道

InstructLab 管道现在作为开发者预览功能提供,您可以通过 OpenShift AI 中的数据科学管道运行完整的 InstructLab 工作流。有关运行此管道的先决条件和设置说明,请参阅在 RHOAI 上运行带有 Data Science Pipelines 的 InstructLab Pipeline

重要

已安装 NVIDIA GPU Operator 24.6,才能在 OpenShift AI 2.17 中使用 InstructLab 管道。

独立脚本

分布式基础架构实验室培训作为开发者预览功能提供,与单节点设置相比,为分布式环境中培训任务提供增强的性能。通过编排多节点培训作业,此功能提高了效率和可扩展性,并允许用户利用分布式资源进行更有效的 AI 模型开发。要使用独立脚本实施完整的 InstructLab 培训流程,包括数据准备、传输和分布式执行,请参见 RHOAI 的分布式非结构化实验室培训

Red Hat logoGithubRedditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.

關於紅帽

我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。

© 2024 Red Hat, Inc.