一、问题背景
去年底接手一个企业知识库项目,需要支撑约1200万条文档切片的语义检索,QPS峰值预估在80左右,P99延迟要求控制在100ms以内。团队只有两台16核64GB的物理机可用,没有专职运维。
最初用FAISS做原型,但增量更新和持久化太麻烦,决定上专业向量数据库。候选就两个:Milvus和Qdrant。网上文章要么是官方benchmark(数据漂亮但场景不匹配),要么是"Hello World"级别的demo,缺少同硬件、同数据集、同索引类型的横向对比。索性自己搭一套测。
这篇文章记录完整的测试过程:部署、调参、代码、踩坑、最终数据。结论先放这儿——如果单机规模在2000万向量以内、追求低运维成本,Qdrant更合适;如果需要分布式扩展和强一致的批量写入,Milvus是更稳的选择。下面是依据。
二、环境与版本
硬件与软件环境:
| 项目 | 配置 |
|---|---|
| 机器 | 单节点,AMD EPYC 7302 16C32T,64GB DDR4,NVMe SSD 1TB |
| OS | Ubuntu 22.04.3 LTS |
| Docker | 24.0.7 |
| Milvus | v2.4.4 (standalone, 含 etcd 3.5.5 + MinIO RELEASE.2023-03-20) |
| Qdrant | v1.9.1 (单容器) |
| 客户端 | pymilvus 2.4.4 / qdrant-client 1.9.1 |
| 数据集 | 1200万条,768维 float32 向量(模拟bge-base-zh输出),随机生成+真实业务采样混合 |
向量维度768、余弦相似度,两边索引都选HNSW,保证可比性。
三、方案设计
测试分三块:
- 写入性能:批量灌入1200万向量,记录总耗时与内存峰值。
- 查询性能:2000条query,取top-10,统计P50/P95/P99延迟与QPS(单线程串行+16并发两档)。
- 资源占用:空闲态与压测峰值的内存、CPU。
索引参数对齐:
- Milvus HNSW:
M=16, efConstruction=200,查询ef=64 - Qdrant HNSW:
m=16, ef_construct=200,查询hnsw_ef=64
Milvus的nlist不适用(HNSW不用),两边都关闭了标量过滤,纯向量检索。
四、核心实现
4.1 部署
Milvus standalone 用官方 compose:
wget https://github.com/milvus-io/milvus/releases/download/v2.4.4/milvus-standalone-docker-compose.yml -O docker-compose.yml
docker compose up -d
# 三个容器:milvus-standalone / etcd / minio
Qdrant 更简单,单容器带持久化卷:
docker run -d --name qdrant \
-p 6333:6333 -p 6334:6334 \
-v $(pwd)/qdrant_storage:/qdrant/storage \
-e QDRANT__SERVICE__GRPC_PORT=6334 \
qdrant/qdrant:v1.9.1
注意Milvus的compose默认没限制内存,实测etcd+minio会额外吃掉约1.2GB,这点后面资源对比要算进去。
4.2 写入代码
Milvus 侧:
from pymilvus import connections, Collection, CollectionSchema, FieldSchema, DataType, utility
import numpy as np, time
connections.connect("default", host="127.0.0.1", port="19530")
fields = [
FieldSchema("id", DataType.INT64, is_primary=True, auto_id=False),
FieldSchema("vec", DataType.FLOAT_VECTOR, dim=768),
]
schema = CollectionSchema(fields, description="bench")
if utility.has_collection("bench_milvus"):
utility.drop_collection("bench_milvus")
col = Collection("bench_milvus", schema)
index_params = {
"index_type": "HNSW",
"metric_type": "COSINE",
"params": {"M": 16, "efConstruction": 200},
}
col.create_index("vec", index_params)
BATCH = 5000
t0 = time.time()
for i in range(0, 12_000_000, BATCH):
ids = list(range(i, i + BATCH))
vecs = np.random.rand(BATCH, 768).astype(np.float32)
col.insert([ids, vecs.tolist()])
if i % 1_000_000 == 0:
print(f"inserted {i}, elapsed {time.time()-t0:.1f}s")
col.flush()
print(f"total write: {time.time()-t0:.1f}s")
Qdrant 侧:
from qdrant_client import QdrantClient
from qdrant_client.models import VectorParams, Distance, PointStruct, HnswConfigDiff
import numpy as np, time
client = QdrantClient(host="127.0.0.1", port=6333)
if client.collection_exists("bench_qdrant"):
client.delete_collection("bench_qdrant")
client.create_collection(
collection_name="bench_qdrant",
vectors_config=VectorParams(size=768, distance=Distance.COSINE),
hnsw_config=HnswConfigDiff(m=16, ef_construct=200),
)
BATCH = 5000
t0 = time.time()
for i in range(0, 12_000_000, BATCH):
vecs = np.random.rand(BATCH, 768).astype(np.float32)
points = [PointStruct(id=i+j, vector=vecs[j].tolist()) for j in range(BATCH)]
client.upsert(collection_name="bench_qdrant", points=points, wait=False)
if i % 1_000_000 == 0:
print(f"upserted {i}, elapsed {time.time()-t0:.1f}s")
print(f"total write: {time.time()-t0:.1f}s")
4.3 查询代码(以Qdrant为例,Milvus的search接口类似)
import numpy as np, time, statistics
queries = np.random.rand(2000, 768).astype(np.float32)
lat = []
for q in queries:
s = time.perf_counter()
client.search(collection_name="bench_qdrant", query_vector=q.tolist(),
limit=10, search_params={"hnsw_ef": 64})
lat.append((time.perf_counter() - s) * 1000)
lat.sort()
print(f"P50={lat[1000]:.1f}ms P95={lat[1900]:.1f}ms P99={lat[1980]:.1f}ms")
Milvus用col.search(data=[q], anns_field="vec", param={"metric_type":"COSINE","params":{"ef":64}}, limit=10)。
五、踩坑与优化
坑1:Milvus写入不flush内存会一直涨。 前100万条没手动flush,内存飙到22GB,触发了OOM killer。改成每100万条col.flush()一次,峰值降到18GB。官方文档说segment满了会自动flush,但默认segment_row_limit较大,小批量灌数据时最好手动控制。
坑2:Qdrant的wait=False。 异步upsert吞吐高,但压测查询前必须等索引构建完成,否则查到的是部分数据。用client.get_collection()看indexed_vectors_count等于总数再开始查询。我一开始没等,P99虚高到200ms+,排查了半天。
坑3:Milvus的etcd和minio吃内存。 单独看milvus-standalone容器是16GB,但docker stats加起来etcd 600MB、minio 550MB。Qdrant单容器就是全部。选型时如果按容器算成本,这个差额不能忽略。
坑4:两边HNSW的ef语义一致,但默认值不同。 Milvus查询默认ef较小,Qdrant的hnsw_ef默认是128。为了公平我都显式设成64,否则Qdrant召回率高但延迟也高,容易误判。
优化上,Milvus开了queryNode.cache.enabled=true(默认开)和mmap选项后,查询延迟有小幅下降;Qdrant开了on_disk_payload=true并配合quantization_config(没在本次对比中启用,属于后续优化项)。
六、效果数据
写入(1200万×768d):
| 指标 | Milvus 2.4.4 | Qdrant 1.9.1 |
|---|---|---|
| 总耗时 | 1420s | 2980s |
| 吞吐(向量/秒) | ~8450 | ~4030 |
| 内存峰值 | 18.2GB | 11.8GB |
查询(top-10,ef=64):
| 指标 | Milvus | Qdrant |
|---|---|---|
| P50 | 21ms | 19ms |
| P95 | 45ms | 26ms |
| P99 | 78ms | 28ms |
| 16并发QPS | ~410 | ~530 |
空闲内存占用: Milvus三容器合计约2.1GB,Qdrant约480MB。
有意思的是Qdrant的P99明显更稳,我猜和它单进程Rust实现、没有跨容器gRPC跳转有关;Milvus的P99抖动主要出现在flush后的索引合并窗口。写入吞吐Milvus领先2.1倍,符合它面向批量场景的设计取向。
七、总结
回到选型:我们这个项目1200万向量、80 QPS、单机部署,最终选了Qdrant。理由三条:内存省35%让64GB机器有余量、P99稳定在30ms内满足SLA、单容器运维成本几乎为零。代价是写入慢一倍,但知识库是低频更新场景,可以接受。
如果场景换成每天千万级增量写入、或者未来要横向扩到亿级,Milvus的分布式架构和写入吞吐优势会更明显,那时候多出来的运维复杂度是值得的。
两个产品都在快速迭代,本文数据基于2024年中的版本,参数和默认值可能变化,建议按自己的数据集复测一遍。测试脚本已放在文中的代码块里,改一下维度和路径就能跑。有测过其他版本的同学欢迎评论区交流数据。