最近在做一个企业知识库的RAG问答系统,用的是bge-m3做embedding,Milvus存向量,召回top5后用LangChain拼prompt喂给Qwen。测试时发现一个很头疼的问题:检索出来的文档片段人工看确实是相关的,但模型回答时经常忽略这些内容,要么答成通用知识,要么把几个片段张冠李戴拼错。试过调大top_k、换rerank模型,效果都不明显。怀疑是prompt里上下文太长导致模型注意力分散,但缩短又怕漏信息。有没有大佬遇到过类似情况?到底是检索阶段还是生成阶段的问题,该怎么定位和优化?