最近在做知识库问答，一开始图省事，把PDF全文直接截断拼进prompt里，效果其实还行。后来数据量上来了，上下文塞不下，才开始学用向量数据库（用的Milvus）。但调了半天，感觉召回的东西经常不太对，比如用户问“合同违约怎么赔偿”，召回的top3里反而混进不少无关条款。想问问大家，向量检索的相似度分数到底怎么解读？有没有必要上rerank？还是说我嵌入模型选得太基础（用的bge-small）？另外，用向量库相比纯prompt拼接，在准确率和延迟上真实体验差距大吗？有没有踩坑经验分享下，感谢！