第 3 章 技术预览功能

LAB-tuning 现在作为技术预览提供，使数据科学家能够运行端到端工作流以自定义大型语言模型(LLM)。LAB （用于 chatBots） 方法通过利用 taxonomy-guided syntic data generation (SDG)和多阶段培训方法提供更有效的传统微调替代方案。

数据科学家可以使用新的预配置的 InstructLab 管道直接从 OpenShift AI 仪表板运行 LAB-tuning 工作流，这简化了调优过程。有关启用和使用 LAB-tuning 的详细信息，请参阅启用 LAB-tuning 和 通过 LAB-tuning 自定义模型。

Red Hat OpenShift AI Model Catalog 现在作为技术预览提供。此功能从使用 Granite 系列模型连接用户开始，以及 LAB-tuning 中使用的教师和 judge 模型。

现在，您可以在 Red Hat OpenShift AI Operator 中安装和管理 Feature Store 作为可配置的组件。基于开源 Feast 项目，Feature Store 充当 ML 模型和数据之间的桥接，从而在 ML 生命周期之间实现一致且可扩展的功能管理。

这个技术预览版本引进了以下功能：

硬件配置集现在作为技术预览提供。硬件配置集功能允许用户为工作台或模型保留工作负载为目标特定的 worker 节点。它允许用户以特定加速器类型或仅 CPU 的节点为目标。

此功能替换了当前的加速器配置集功能和容器大小选择器字段，为针对不同的硬件配置提供更广泛的功能。虽然加速器配置集、污点和容限为硬件提供一些匹配工作负载的功能，但它们不能确保工作负载在特定节点上，特别是某些节点缺少适当的污点。

硬件配置集功能支持加速器和 CPU 配置以及节点选择器，以增强特定 worker 节点的目标功能。管理员可以在设置菜单中配置硬件配置文件。用户可以在适用的情况下使用 UI 为工作台、模型服务和 Data Science Pipelines 选择启用的配置集。

集群管理员可以使用 Validating Admission Policy 功能，使用 Kue local-queue 标识符强制标记 Ray 集群和 PyTorchJob 资源。该标签可确保根据队列管理策略正确分类和路由工作负载，从而防止资源争用并提高操作效率。

强制 local-queue 标签策略时，只有在将 Ray 集群和 PyTorchJobs 配置为使用本地队列时，才会创建 Ray 集群和 PyTorchJob 资源，然后由 Kueue 管理。默认情况下，为所有项目强制执行 local-queue 标签策略，但可为某些或所有项目禁用。有关 local-queue 标签策略的更多信息，请参阅 强制使用本地队列。

使用 RStudio 服务器工作台镜像，您可以访问 RStudio IDE，这是 RStudio 的集成开发环境。R 编程语言用于统计计算和图形来支持数据分析和预测。

要使用 RStudio Server workbench 镜像，您必须首先通过创建 secret 并触发 BuildConfig 来构建它，然后通过编辑 r Studio-rhel9 镜像流在 OpenShift AI UI 中启用它。如需更多信息，请参阅 构建 RStudio 服务器工作台镜像。

使用 CUDA - RStudio Server workbench 镜像，您可以访问 RStudio IDE 和 NVIDIA CUDA Toolkit。RStudio IDE 是用于统计计算和图形的 R 编程语言的集成开发环境。使用 NVIDIA CUDA 工具包，您可以使用 GPU 加速的库和优化工具来增强您的工作。

要使用 CUDA - RStudio Server workbench 镜像，您必须首先通过创建 secret 并触发 BuildConfig 来构建它，然后通过编辑 r Studio-rhel9 镜像流在 OpenShift AI UI 中启用它。如需更多信息，请参阅 构建 RStudio 服务器工作台镜像。