最近在做一个内部知识库的RAG问答,流程是文档切片→bge-m3向量化→Milvus检索top5→拼prompt丢给Qwen。调试的时候我把检索到的chunk打印出来看,明明相关段落都召回对了,内容也在里面,但模型回答要么答非所问,要么把几个文档的内容混在一起编。prompt里已经写了“仅根据以下内容回答”,temperature也调到0.1了,还是这样。有没有老哥遇到过类似情况?是切片粒度的问题还是prompt组织方式不对?感觉卡在这好几天了,求指点。
最近在做一个内部知识库的RAG问答,流程是文档切片→bge-m3向量化→Milvus检索top5→拼prompt丢给Qwen。调试的时候我把检索到的chunk打印出来看,明明相关段落都召回对了,内容也在里面,但模型回答要么答非所问,要么把几个文档的内容混在一起编。prompt里已经写了“仅根据以下内容回答”,temperature也调到0.1了,还是这样。有没有老哥遇到过类似情况?是切片粒度的问题还是prompt组织方式不对?感觉卡在这好几天了,求指点。
暂无回复,快来抢沙发吧