最近在搞一个 MCP 项目,想让 LLM 能查内部文档。试了 chroma 本地跑,简单是简单,但数据一多就卡,而且没法多进程共享。想换成 Milvus 或者 Qdrant,又纠结是自托管还是用 Zilliz 这类云服务。MCP 协议里 tool 调用向量检索时,延迟和稳定性怎么权衡?有没有人踩过坑,能不能给点选型建议?感觉自己越查越迷糊了。
暂无回复,快来抢沙发吧
模型与外部工具集成