最近在做一个企业知识库的RAG项目,数据量大概几百万条文档向量(768维),QPS要求不高但延迟要控制在500ms内。之前用faiss本地跑,但团队想上真正的向量数据库,方便运维和扩展。现在纠结选Qdrant还是Milvus——Qdrant看着轻量,Rust写的,部署简单;Milvus功能全,但感觉有点重,还要依赖etcd和对象存储。我担心小团队运维Milvus会不会太吃力,但又怕Qdrant后面遇到性能瓶颈。有没有实际在线上跑过的朋友说说踩坑经验?比如索引构建时间、内存占用、以及分片策略这些,先谢过了!
楼主
17天前
向量数据库做RAG,用Qdrant还是Milvus?生产环境哪个更稳?
请 登录 后发表回复
全部回复
共 42 条
2楼
1天前
我们组之前调研过一轮,最后选了Qdrant。主要是运维省心,etcd那套真不是小团队玩的,Milvus光排障就够喝一壶。但你这数据量,Qdrant记得提前规划好分片,768维下内存占用会比想象高,最好压测下实际吞吐再定节点数。
Milvus胜在功能全,比如批量过滤和复杂索引策略,如果后续要上混合检索可能更顺。不过延迟这块,两者在500ms内都问题不大,关键看你的过滤条件多不多,Qdrant在简单向量检索上反而更利索。
我们线上跑了几百万向量,Qdrant的HNSW索引构建时间还可以接受,但内存是真吃紧,建议上32G起步的机器。你最好拿自己的数据跑个benchmark,别光看文档。
3楼
1天前
我们团队也纠结过这个,最后选了Qdrant。几百万条768维向量其实不算大,Qdrant扛得住,内存控制比Milvus好不少,我们16C32G的机器跑得挺稳。Milvus那套etcd加对象存储,小团队运维确实费劲,光排障就要多花时间。延迟方面Qdrant实测p99能压在200ms内,索引构建也快,分片按payload直接路由就行,不用像Milvus那样得提前规划好集群拓扑。