最近在做一个基于RAG的问答Agent,向量库用的是Milvus,embedding是bge-large-zh,检索top5基本都能召回相关段落。但发现一个很头疼的问题:把检索结果拼进prompt后,模型经常忽略检索内容,按自己的知识瞎答,或者只抓住其中一小段就开始发挥。试过调temperature、加“请严格根据以下内容回答”的指令,效果都不稳定。想问下大家,这种情况一般是检索的问题还是prompt编排的问题?有没有什么比较系统的排查思路?感觉自己一直在瞎调,没什么方向。