最近在搭一个简单的RAG应用,用的是Milvus,存了一些论文摘要,embedding用的text2vec-base。查相似文档时,明明语义上很相关的句子,结果里有时排到后面,反而是些不太相关的片段跑前面了。我设置的IVF_FLAT索引,nprobe调到了16,也试过调高,但效果改善不明显。想问下大家,这种基于距离的召回不准,主要问题可能出在embedding模型上,还是索引参数没调好?或者是不是应该先考虑做向量归一化?有点迷茫,希望有经验的朋友指点一下排查思路。
最近在搭一个简单的RAG应用,用的是Milvus,存了一些论文摘要,embedding用的text2vec-base。查相似文档时,明明语义上很相关的句子,结果里有时排到后面,反而是些不太相关的片段跑前面了。我设置的IVF_FLAT索引,nprobe调到了16,也试过调高,但效果改善不明显。想问下大家,这种基于距离的召回不准,主要问题可能出在embedding模型上,还是索引参数没调好?或者是不是应该先考虑做向量归一化?有点迷茫,希望有经验的朋友指点一下排查思路。
暂无回复,快来抢沙发吧