红帽全球峰会第 1 章 LAB-tuning 概述
重要
LAB-tuning 目前在 Red Hat OpenShift AI 中作为技术预览功能提供。技术预览功能不受红帽产品服务等级协议（SLA）支持，且功能可能并不完整。红帽不推荐在生产环境中使用它们。这些技术预览功能可以使用户提早试用新的功能，并有机会在开发阶段提供反馈意见。
有关红帽技术预览功能支持范围的更多信息，请参阅技术预览功能支持范围。
您可以在 OpenShift AI 中使用 LAB-tuning 来运行用于自定义大型语言模型(LLM)的端到端工作流。LAB （用于 chatBots） 方法提供了更有效的替代传统微调方案，方法是将 taxonomy-guided synthetic 数据生成(SDG)与多阶段培训流程相结合。您可以使用预配置的 InstructLab 管道直接从 OpenShift AI 仪表板运行 LAB-tuning 工作流，该管道简化了调优过程。
LAB-tuning 提供以下优点：
- 创建反映您域特定知识的 LLM。
- 从结构化税务处自动生成高质量培训数据。
- 通过精简的多阶段培训流程更快地微调模型。
- 通过将培训作为跨集群的分布式工作负载运行培训来提高性能和可扩展性。
- 在 OpenShift AI 中安全地运行整个工作流。
1.1. LAB-tuning 工作流
复制链接链接已复制到粘贴板!
LAB-tuning 通过预配置的 InstructLab 管道简化模型自定义，该管道遵循此工作流：
- 您的结构化税务定义了该模式应了解的知识与技能。
- 教导模式使用税务培训数据。
- 一个 judge 模型检查，并对合成数据进行评分，以确保质量。
- 复合数据用于通过多阶段培训管道微调基础模型。
结果是一个微调的模型，您可以从模型 registry 进行版本、审核和部署。
'%20d='M201.5%20305.5c-13.8%200-24.9-11.1-24.9-24.6%200-13.8%2011.1-24.9%2024.9-24.9%2013.6%200%2024.6%2011.1%2024.6%2024.9%200%2013.6-11.1%2024.6-24.6%2024.6zM504%20256c0%20137-111%20248-248%20248S8%20393%208%20256%20119%208%20256%208s248%20111%20248%20248zm-132.3-41.2c-9.4%200-17.7%203.9-23.8%2010-22.4-15.5-52.6-25.5-86.1-26.6l17.4-78.3%2055.4%2012.5c0%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.3%2024.9-24.9s-11.1-24.9-24.9-24.9c-9.7%200-18%205.8-22.1%2013.8l-61.2-13.6c-3-.8-6.1%201.4-6.9%204.4l-19.1%2086.4c-33.2%201.4-63.1%2011.3-85.5%2026.8-6.1-6.4-14.7-10.2-24.1-10.2-34.9%200-46.3%2046.9-14.4%2062.8-1.1%205-1.7%2010.2-1.7%2015.5%200%2052.6%2059.2%2095.2%20132%2095.2%2073.1%200%20132.3-42.6%20132.3-95.2%200-5.3-.6-10.8-1.9-15.8%2031.3-16%2019.8-62.5-14.9-62.5zM302.8%20331c-18.2%2018.2-76.1%2017.9-93.6%200-2.2-2.2-6.1-2.2-8.3%200-2.5%202.5-2.5%206.4%200%208.6%2022.8%2022.8%2087.3%2022.8%20110.2%200%202.5-2.2%202.5-6.1%200-8.6-2.2-2.2-6.1-2.2-8.3%200zm7.7-75c-13.6%200-24.6%2011.1-24.6%2024.9%200%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.1%2024.9-24.6%200-13.8-11-24.9-24.9-24.9z'/%3e%3c/svg%3e){kind=small}