最近在搭一个基于RAG的客服问答系统,数据量大概十几万条,主要是产品手册和技术文档。目前用text2vec-base-chinese做embedding,默认768维,但看到网上有人说降维到256甚至128能省资源,也有人说降维会影响召回率。我自己试了下降到256,相似度检索的结果确实感觉有点飘,但又拿不准是不是代码写错了。另外还纠结是直接用faiss还是换个专业的向量数据库(比如Milvus或Weaviate),毕竟我之后还想做增量更新。有没有老哥能给点实践经验,比如维度、索引类型、还有部署时内存怎么估?先谢了。