最近在搞一个基于RAG的文档问答,想把输出格式统一成“要点列表+来源引用”。我在系统提示词里写得很详细了,比如“请按照三点格式回答”,但结果还是经常跑偏——有时候模型自己加了一段总结,有时候引用格式乱掉。用的是GPT-4,温度调到了0.2,还试过把示例放在few-shot里,效果时好时坏。是不是我prompt写得太死板了?或者RAG的上下文太长,提示词被“稀释”了?有没有什么更稳的prompt设计思路,或者干脆在后端做格式后处理?求有经验的大佬指点一下,卡了好几天了。
最近在搞一个基于RAG的文档问答,想把输出格式统一成“要点列表+来源引用”。我在系统提示词里写得很详细了,比如“请按照三点格式回答”,但结果还是经常跑偏——有时候模型自己加了一段总结,有时候引用格式乱掉。用的是GPT-4,温度调到了0.2,还试过把示例放在few-shot里,效果时好时坏。是不是我prompt写得太死板了?或者RAG的上下文太长,提示词被“稀释”了?有没有什么更稳的prompt设计思路,或者干脆在后端做格式后处理?求有经验的大佬指点一下,卡了好几天了。
暂无回复,快来抢沙发吧