最近在折腾本地部署的Llama 3做知识库问答，文档大概有几千篇PDF和Markdown。现在用的是ChromaDB存在本地，简单是简单，但检索准确率有点飘，特别是问一些跨章节的复合问题，召回的结果总是差点意思。想试试Milvus，但又担心部署和运维成本太高（我只有一台Mac Studio）。另外看到有帖子说Qdrant也很适合单机，但没深入用过。想问问大家：像我这种单机、数据量中等、主要跑开源模型做RAG的场景，到底该不该换向量库？还是说问题出在embedding模型的选择上？求过来人指点。