最近在做一个基于开源大模型(用的ChatGLM)的RAG问答系统,想给项目加个向量数据库存文档embedding。看了下社区推荐,Chroma轻量但担心生产环境扛不住,Milvus功能强又感觉部署太重。我的场景大概几万条文档,QPS不高,但希望后期能平滑扩容。想问下大家实际项目中怎么选的?另外Pinecone这种云端服务是不是更适合个人开发者?先谢过各位大佬了。
楼主
1天前
刚上手RAG项目,向量数据库用哪个好?Chroma还是Milvus看晕了
请 登录 后发表回复
全部回复
共 2 条
2楼
11小时前
几万条文档QPS不高的话,Chroma完全够用,我自己的项目就是从Chroma起步的,部署简单迭代快,后期真要扩容再切Milvus也不算太麻烦。Milvus确实适合大规模,但前期折腾半天可能收益不大。Pinecone省心但费用不低,个人玩的话免费额度还行,长期跑还得看预算。
3楼
7小时前
几万条文档QPS不高的话Chroma完全够用,我有个小项目跑了半年多没出过问题,部署简单后期真要扩容直接改配置切Milvus也不麻烦。Pinecone确实省心但按量计费跑起来成本不低,个人玩玩还行,生产长期用还是得掂量下预算。你后期想平滑扩容的话,可以先用Chroma把原型跑通,等量上来了再迁移,数据导出也不复杂。