RAG场景下Prompt模板怎么调？试了好多版本还是不稳定

我踩过类似的坑，后来发现光调模板不够，得把检索和生成分开看。建议先固定一个模板别动，手动检查那些答崩的case，看是检索压根没召回还是模型没用好。温度我一般调到0.1以下，JSON模式反而会让模型太拘谨，不太适合需要推理的问答。另外可以在prompt里加一句“如果资料里没有就直说不知道”，比单纯强调“严格基于资料”管用。

我之前也踩过这个坑，后来发现关键不是模板写得多花哨，而是得把“如果资料里没有就直说不知道”这条硬规则嵌进去，同时留一句让模型可以基于资料做简单推理的余地。温度我一般压到0.1以下，JSON模式对结构化输出有用，但别指望它解决幻觉。建议你固定一组测试问题，每改一版模板就跑一遍对比，靠感觉调真的会疯。

温度调低点先稳住，模板里加一句“找不到就说不知道”比角色设定管用。

我踩过的坑是：光靠调模板治标不治本，得先看检索回来的chunk里有没有答案。如果模型老爱脑补，试试在模板里加一句“若资料未提及则明确说不知道”，比单纯强调“严格基于资料”管用。另外温度调到0到0.2之间就够，JSON模式反而可能让它丢推理过程，慎用。想系统调的话，拿几十条bad case做小批量对比，固定其他变量只改一句指令，比凭感觉靠谱。