最近在做一个基于知识库的问答机器人,用的是经典的RAG架构(Embedding+向量库+LLM)。现在检索出来的chunks相关性还行,但最终生成的答案总是不太对味——要么太啰嗦把无关背景也带进去,要么太干巴只复述原文,完全没有总结和推理。我自己试过在Prompt里强调“仅根据以下内容回答”“如果不知道就说不知道”,也试过加few-shot例子,但效果不稳定。想请教下各位,RAG场景下的Prompt模板一般是怎么设计的?比如系统提示词和用户提示词的边界怎么划?上下文窗口有限时,怎么取舍检索到的多段内容?有没有什么结构化的写法或者踩坑经验可以分享?谢谢!