1.3. 认为模型会生成 delineator 提示符


在某些情况下,认为模型或原因模型生成具有描述器的输出,如 THOUGHT 或原因,以将认为进程与 OpenShift Lightspeed 服务用于回答您的问题的模型输出分开。

OpenShift Lightspeed Service 不配置 delineator 行为,或在输出中生成 delineators。分类器功能是模型配置设置。通常,您可以使用以下方法之一禁用该功能:

  • 使用模型需要的特定关键字附加您的问题提示,例如 /nothink。如需更多信息,请参阅有关您使用的模型的文档。
  • 修改 inference 服务器配置设置,以禁用 delineator 功能。如需更多信息,请参阅对 inference 服务器或您使用的型号的文档。
返回顶部
Red Hat logoGithubredditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。 了解我们当前的更新.

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.

關於紅帽

我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。

Theme

© 2025 Red Hat