1.3. 사고 모델은 delineator 프롬프트를 생성합니다.
경우에 따라 사고 모델 또는 추론 모델이 THOUGHT
또는 추론
과 같은 구분이 있는 출력을 생성하여 OpenShift Lightspeed 서비스에서 질문에 응답하는 데 사용하는 모델 출력과 사고 프로세스를 분리합니다.
OpenShift Lightspeed Service는 구분기 동작을 구성하거나 출력에 설명자를 생성하지 않습니다. 데이터 기능은 모델 구성 설정입니다. 일반적으로 다음 방법 중 하나를 사용하여 기능을 비활성화할 수 있습니다.
-
모델이 설명 기능을 비활성화하는 데 필요한 특정 키워드(예:
/no think
)에 질문 프롬프트를 추가합니다. 자세한 내용은 사용 중인 모델의 설명서를 참조하십시오. - 비활성화 서버 구성 설정을 비활성화하도록 유추 서버 구성 설정을 수정합니다. 자세한 내용은 유추 서버 또는 사용 중인 모델에 대한 설명서를 참조하십시오.