最近在做RAG应用,用的ChatGLM3-6B做embedding,现在要存大概500万条文档向量。看了好多对比文章,越看越纠结。Milvus功能全但部署重,Qdrant轻量但怕后面扩展扛不住。有没有实际跑过生产环境的大佬说说,单机版的话哪个更稳?另外,如果后面要上GPU加速检索,这两个的生态支持怎么样?提前感谢!
楼主
13天前
向量数据库选型求建议,Milvus和Qdrant到底该怎么选?
请 登录 后发表回复
全部回复
共 6 条
2楼
13天前
说实话这两个我都跑过,单机500万量级的话Qdrant完全够用,我生产环境跑了大半年没出过幺蛾子,资源占用比Milvus舒服太多了。Milvus功能确实全,但光依赖那一套就得折腾好久,而且单机模式下优势体现不出来,除非你一开始就规划好集群。GPU加速这块,Qdrant的HNSW在CUDA上表现还行,官方文档有现成的例子,Milvus虽然也支持但配置复杂度高不少。你如果主要做RAG,不如先上Qdrant,真到千万级再加集群也不迟。
3楼
10天前
单机500万条Qdrant够用了,部署省心太多,Milvus那套运维成本真不是小团队能扛的。
GPU检索生态两家都在追,但真要落地还得看Milvus,毕竟分布式扩展时差距才明显。
4楼
8天前
500万不算大,单机Qdrant妥妥够用,别被Milvus那套分布式吓住,先跑起来再说。
GPU加速现在两边都一般,真到瓶颈直接上ScaNN不香吗?
5楼
7天前
500万条这个量级Qdrant单机完全够用,别被营销文带偏了,真要上GPU再看Milvus也不迟。
6楼
12小时前
500万单机Qdrant够用,GPU检索这俩生态都一般,真要上卡不如先看看你的延迟要求有多高。
7楼
1小时前
500万这个量级单机跑,Qdrant其实完全扛得住,我这边400多万条用下来内存占用挺克制,检索延迟也稳。Milvus功能确实多,但单机版那个etcd加minio的组合,维护起来真的累。GPU这块Qdrant目前没啥官方支持,Milvus有GPU版但基本绑在分布式架构上,单机想用GPU反而麻烦。如果短期内不打算上集群,我倾向先用Qdrant把业务跑起来,真到瓶颈再换也不迟。