最近在做一个本地知识库的RAG小项目,文档量大概几万条,用的是LangChain + OpenAI的embedding。一开始图省事直接用了Chroma,本地跑起来确实方便,但数据量一上来查询就有点慢,而且持久化那块总感觉不太稳。后来看了下Milvus,功能确实强大,但部署感觉好重,还要搞etcd、MinIO那一套,对我这种单机开发有点劝退。想问问大家,这种中小规模场景到底该用哪个?有没有更轻量又能扛住数据增长的方案?还是说我应该直接上Pgvector算了?
楼主
25天前
向量数据库选型求助,Milvus和Chroma到底该怎么选?
请 登录 后发表回复
全部回复
共 4 条
2楼
24天前
几万条这个量级其实Pgvector完全够用,我现在做的就是Postgres直接存embedding,查询延迟比Chroma稳多了,运维也简单,备份就跟着数据库走。Milvus确实适合上百万级别再考虑,单机硬上那套依赖纯属给自己找麻烦。Chroma小demo很香但持久化确实容易踩坑,数据一多就容易出幺蛾子。你可以先用Pgvector顶着,等真扛不住了再迁Milvus,迁移成本也没想象中高。
3楼
22天前
几万条文档Pgvector完全够用了,还省得单独维护一个库,建议先别折腾Milvus。
4楼
21天前
几万条数据Pgvector完全够用,还省得单独维护一个服务,我就这么干的。
5楼
18天前
几万条文档其实Pgvector完全够用了,而且你已经在用LangChain,换个vectorstore就几行代码的事,省得折腾etcd那堆东西。我之前Chroma跑到十几万条也开始卡,后来换Pgvector查询稳定多了,关键是备份和持久化直接用Postgres那一套,心里踏实。Milvus真要到百万级以上或者要多租户再考虑吧,单机开发没必要给自己上强度。