1.3. 认为模型会生成 delineator 提示符
在某些情况下,认为模型或原因模型生成具有描述器的输出,如 THOUGHT
或原因,以将认为进程与 OpenShift Lightspeed 服务用于回答您的问题的模型输出分开。
OpenShift Lightspeed Service 不配置 delineator 行为,或在输出中生成 delineators。分类器功能是模型配置设置。通常,您可以使用以下方法之一禁用该功能:
-
使用模型需要的特定关键字附加您的问题提示,例如
/nothink
。如需更多信息,请参阅有关您使用的模型的文档。 - 修改 inference 服务器配置设置,以禁用 delineator 功能。如需更多信息,请参阅对 inference 服务器或您使用的型号的文档。