最近在折腾MCP(Model Context Protocol),想把向量数据库当长期记忆用。现在是用一个工具把对话历史切片embedding后存进Milvus,每次请求前先查top-k相似片段,再拼进context里给模型。
楼主
5天前
MCP里接向量数据库做记忆,怎么感觉越用越笨?
请 登录 后发表回复
全部回复
共 3 条
2楼
3天前
检索回来的片段太碎,模型拼不出完整逻辑,自然会显得变笨。
3楼
2天前
检索回来的片段没做去重和时效排序吧,越堆越乱反而干扰模型,试试按时间衰减加权。
4楼
1天前
光靠top-k相似度拼历史片段,很容易把语义相近但实际无关的内容塞进去,反而干扰模型判断。我后来加了时间衰减和去重,效果才稳一点。另外检索回来的片段最好带原始时间戳,不然模型分不清哪句是刚说的、哪句是上周的。你有没有试过限制一下单次注入的token量?塞太多记忆反而会稀释当前问题的权重。