一、问题背景

去年底接手一个企业知识库项目,需要支撑约1200万条文档切片的语义检索,QPS峰值预估在80左右,P99延迟要求控制在100ms以内。团队只有两台16核64GB的物理机可用,没有专职运维。

最初用FAISS做原型,但增量更新和持久化太麻烦,决定上专业向量数据库。候选就两个:Milvus和Qdrant。网上文章要么是官方benchmark(数据漂亮但场景不匹配),要么是"Hello World"级别的demo,缺少同硬件、同数据集、同索引类型的横向对比。索性自己搭一套测。

这篇文章记录完整的测试过程:部署、调参、代码、踩坑、最终数据。结论先放这儿——如果单机规模在2000万向量以内、追求低运维成本,Qdrant更合适;如果需要分布式扩展和强一致的批量写入,Milvus是更稳的选择。下面是依据。

二、环境与版本

硬件与软件环境:

项目 配置
机器 单节点,AMD EPYC 7302 16C32T,64GB DDR4,NVMe SSD 1TB
OS Ubuntu 22.04.3 LTS
Docker 24.0.7
Milvus v2.4.4 (standalone, 含 etcd 3.5.5 + MinIO RELEASE.2023-03-20)
Qdrant v1.9.1 (单容器)
客户端 pymilvus 2.4.4 / qdrant-client 1.9.1
数据集 1200万条,768维 float32 向量(模拟bge-base-zh输出),随机生成+真实业务采样混合

向量维度768、余弦相似度,两边索引都选HNSW,保证可比性。

三、方案设计

测试分三块:

  1. 写入性能:批量灌入1200万向量,记录总耗时与内存峰值。
  2. 查询性能:2000条query,取top-10,统计P50/P95/P99延迟与QPS(单线程串行+16并发两档)。
  3. 资源占用:空闲态与压测峰值的内存、CPU。

索引参数对齐:

  • Milvus HNSW:M=16, efConstruction=200,查询 ef=64
  • Qdrant HNSW:m=16, ef_construct=200,查询 hnsw_ef=64

Milvus的nlist不适用(HNSW不用),两边都关闭了标量过滤,纯向量检索。

四、核心实现

4.1 部署

Milvus standalone 用官方 compose:

wget https://github.com/milvus-io/milvus/releases/download/v2.4.4/milvus-standalone-docker-compose.yml -O docker-compose.yml
docker compose up -d
# 三个容器:milvus-standalone / etcd / minio

Qdrant 更简单,单容器带持久化卷:

docker run -d --name qdrant \
  -p 6333:6333 -p 6334:6334 \
  -v $(pwd)/qdrant_storage:/qdrant/storage \
  -e QDRANT__SERVICE__GRPC_PORT=6334 \
  qdrant/qdrant:v1.9.1

注意Milvus的compose默认没限制内存,实测etcd+minio会额外吃掉约1.2GB,这点后面资源对比要算进去。

4.2 写入代码

Milvus 侧:

from pymilvus import connections, Collection, CollectionSchema, FieldSchema, DataType, utility
import numpy as np, time

connections.connect("default", host="127.0.0.1", port="19530")

fields = [
    FieldSchema("id", DataType.INT64, is_primary=True, auto_id=False),
    FieldSchema("vec", DataType.FLOAT_VECTOR, dim=768),
]
schema = CollectionSchema(fields, description="bench")
if utility.has_collection("bench_milvus"):
    utility.drop_collection("bench_milvus")
col = Collection("bench_milvus", schema)

index_params = {
    "index_type": "HNSW",
    "metric_type": "COSINE",
    "params": {"M": 16, "efConstruction": 200},
}
col.create_index("vec", index_params)

BATCH = 5000
t0 = time.time()
for i in range(0, 12_000_000, BATCH):
    ids = list(range(i, i + BATCH))
    vecs = np.random.rand(BATCH, 768).astype(np.float32)
    col.insert([ids, vecs.tolist()])
    if i % 1_000_000 == 0:
        print(f"inserted {i}, elapsed {time.time()-t0:.1f}s")
col.flush()
print(f"total write: {time.time()-t0:.1f}s")

Qdrant 侧:

from qdrant_client import QdrantClient
from qdrant_client.models import VectorParams, Distance, PointStruct, HnswConfigDiff
import numpy as np, time

client = QdrantClient(host="127.0.0.1", port=6333)
if client.collection_exists("bench_qdrant"):
    client.delete_collection("bench_qdrant")

client.create_collection(
    collection_name="bench_qdrant",
    vectors_config=VectorParams(size=768, distance=Distance.COSINE),
    hnsw_config=HnswConfigDiff(m=16, ef_construct=200),
)

BATCH = 5000
t0 = time.time()
for i in range(0, 12_000_000, BATCH):
    vecs = np.random.rand(BATCH, 768).astype(np.float32)
    points = [PointStruct(id=i+j, vector=vecs[j].tolist()) for j in range(BATCH)]
    client.upsert(collection_name="bench_qdrant", points=points, wait=False)
    if i % 1_000_000 == 0:
        print(f"upserted {i}, elapsed {time.time()-t0:.1f}s")
print(f"total write: {time.time()-t0:.1f}s")

4.3 查询代码(以Qdrant为例,Milvus的search接口类似)

import numpy as np, time, statistics

queries = np.random.rand(2000, 768).astype(np.float32)
lat = []
for q in queries:
    s = time.perf_counter()
    client.search(collection_name="bench_qdrant", query_vector=q.tolist(),
                  limit=10, search_params={"hnsw_ef": 64})
    lat.append((time.perf_counter() - s) * 1000)

lat.sort()
print(f"P50={lat[1000]:.1f}ms P95={lat[1900]:.1f}ms P99={lat[1980]:.1f}ms")

Milvus用col.search(data=[q], anns_field="vec", param={"metric_type":"COSINE","params":{"ef":64}}, limit=10)。

五、踩坑与优化

坑1:Milvus写入不flush内存会一直涨。 前100万条没手动flush,内存飙到22GB,触发了OOM killer。改成每100万条col.flush()一次,峰值降到18GB。官方文档说segment满了会自动flush,但默认segment_row_limit较大,小批量灌数据时最好手动控制。

坑2:Qdrant的wait=False。 异步upsert吞吐高,但压测查询前必须等索引构建完成,否则查到的是部分数据。用client.get_collection()看indexed_vectors_count等于总数再开始查询。我一开始没等,P99虚高到200ms+,排查了半天。

坑3:Milvus的etcd和minio吃内存。 单独看milvus-standalone容器是16GB,但docker stats加起来etcd 600MB、minio 550MB。Qdrant单容器就是全部。选型时如果按容器算成本,这个差额不能忽略。

坑4:两边HNSW的ef语义一致,但默认值不同。 Milvus查询默认ef较小,Qdrant的hnsw_ef默认是128。为了公平我都显式设成64,否则Qdrant召回率高但延迟也高,容易误判。

优化上,Milvus开了queryNode.cache.enabled=true(默认开)和mmap选项后,查询延迟有小幅下降;Qdrant开了on_disk_payload=true并配合quantization_config(没在本次对比中启用,属于后续优化项)。

六、效果数据

写入(1200万×768d):

指标 Milvus 2.4.4 Qdrant 1.9.1
总耗时 1420s 2980s
吞吐(向量/秒) ~8450 ~4030
内存峰值 18.2GB 11.8GB

查询(top-10,ef=64):

指标 Milvus Qdrant
P50 21ms 19ms
P95 45ms 26ms
P99 78ms 28ms
16并发QPS ~410 ~530

空闲内存占用: Milvus三容器合计约2.1GB,Qdrant约480MB。

有意思的是Qdrant的P99明显更稳,我猜和它单进程Rust实现、没有跨容器gRPC跳转有关;Milvus的P99抖动主要出现在flush后的索引合并窗口。写入吞吐Milvus领先2.1倍,符合它面向批量场景的设计取向。

七、总结

回到选型:我们这个项目1200万向量、80 QPS、单机部署,最终选了Qdrant。理由三条:内存省35%让64GB机器有余量、P99稳定在30ms内满足SLA、单容器运维成本几乎为零。代价是写入慢一倍,但知识库是低频更新场景,可以接受。

如果场景换成每天千万级增量写入、或者未来要横向扩到亿级,Milvus的分布式架构和写入吞吐优势会更明显,那时候多出来的运维复杂度是值得的。

两个产品都在快速迭代,本文数据基于2024年中的版本,参数和默认值可能变化,建议按自己的数据集复测一遍。测试脚本已放在文中的代码块里,改一下维度和路径就能跑。有测过其他版本的同学欢迎评论区交流数据。