1.5. 为 RHDH 自定义开发人员 Lightspeed
您可以为 RHDH 功能自定义 Developer Lightspeed,如收集反馈、在 PostgreSQL 中存储聊天历史记录,以及配置 Model Context Protocol (MCP)工具。
1.5.1. 在 Developer Lightspeed 中为 RHDH 收集反馈 复制链接链接已复制到粘贴板!
反馈集合是在 LCS 上配置的可选功能。此功能通过直接从 chat 窗口中提供缩略/向下评级和文本注释来收集用户反馈。
LCS 收集反馈、用户的查询和模型响应,将数据作为 JSON 文件存储在 Pod 的本地文件系统中。平台管理员必须稍后收集和分析此数据,以评估模型性能并改进用户体验。
收集的数据位于部署了 RHDH 和 LCS 的集群中,使其只能供该集群的平台管理员访问。对于删除数据,用户必须从其平台管理员请求此操作,因为红帽不会收集或访问这些数据。
流程
要启用反馈集合,在 LCS 配置文件中(
lightspeed-stack.yaml),请添加以下设置:user_data_collection: feedback_enabled: true feedback_storage: "/tmp/data/feedback" transcripts_enabled: true transcripts_storage: "/tmp/data/transcripts"user_data_collection: feedback_enabled: true feedback_storage: "/tmp/data/feedback" transcripts_enabled: true transcripts_storage: "/tmp/data/transcripts"Copy to Clipboard Copied! Toggle word wrap Toggle overflow 要禁用反馈集合,在 LCS 配置文件中(
lightspeed-stack.yaml),请添加以下设置:user_data_collection: feedback_enabled: false feedback_storage: "/tmp/data/feedback" transcripts_enabled: true transcripts_storage: "/tmp/data/transcripts"user_data_collection: feedback_enabled: false feedback_storage: "/tmp/data/feedback" transcripts_enabled: true transcripts_storage: "/tmp/data/transcripts"Copy to Clipboard Copied! Toggle word wrap Toggle overflow
1.5.2. 在 Developer Lightspeed 中为 RHDH 更新系统提示 复制链接链接已复制到粘贴板!
您可以覆盖 Developer Lightspeed for RHDH 用来更好地帧查询到 LLM 的默认系统提示。通过自定义系统提示,您可以优化 LLM 接收的上下文、个人性和说明,从而提高它为特定环境创建的响应的相关性和准确性。
流程
要设置自定义系统提示,在 Developer Lightspeed 中用于 RHDH 应用程序配置文件,添加或修改
lightspeed.systemPrompt键并将其值设为您首选的提示字符串,如下例所示:lightspeed: # ... other lightspeed configurations systemPrompt: "You are a helpful assistant focused on Red Hat Developer Hub development."
lightspeed: # ... other lightspeed configurations systemPrompt: "You are a helpful assistant focused on Red Hat Developer Hub development."Copy to Clipboard Copied! Toggle word wrap Toggle overflow
将 SystemPrompt 设置为前缀 Developer Lightspeed 发送的所有查询作为带有此指令的 LLM,修改模型来生成更为定制的响应。
1.5.3. 为 RHDH 自定义 Developer Lightspeed 中的 chat 历史记录存储 复制链接链接已复制到粘贴板!
默认情况下,RHDH 服务的 Developer Lightspeed 将 chat 历史记录存储在 LCS 容器中的非持久性本地 SQL 数据库中。这意味着,如果您创建和使用新的 LCS sidecar,则 chat 历史记录将会丢失。您可以通过更新 LCS 服务配置,为 RHDH 手动配置 Developer Lightspeed,来将 chat 历史记录永久存储为使用 PostgreSQL 的长期备份。
+
为 RHDH 配置 Developer Lightspeed 以使用 PostgreSQL 记录提示和响应,平台管理员可以检查哪些平台。如果用户 chat 历史记录包含私有、敏感或机密信息,您必须评估任何数据隐私和安全隐患。对于希望删除聊天数据的用户,他们必须请求他们相应的平台管理员执行此操作。红帽不会收集或访问这个聊天历史数据。
流程
使用任何相关选项在 LCS 配置文件(
lightspeed-stack.yaml)中配置 chat 历史记录存储类型:要使用 PostgreSQL 启用持久性存储,请添加以下配置:
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 要保留默认的非持久性 SQLite 存储,请确保设置了配置,如下例所示:
conversation_cache: type: "sqlite" sqlite: db_path: "/tmp/data/conversations/lcs_cache.db"conversation_cache: type: "sqlite" sqlite: db_path: "/tmp/data/conversations/lcs_cache.db"Copy to Clipboard Copied! Toggle word wrap Toggle overflow
- 重启 LCS 服务以应用新配置。