最近在折腾MCP(模型上下文协议),想给自己的AI助手加个长期记忆功能,打算用向量数据库来存历史对话。但遇到个问题:是把整段对话压缩成一个向量存,还是每条消息单独存?如果按对话分段存,那上下文关联怎么处理?比如用户聊完A话题跳到B话题,再切回A,怎么把相关片段都召回?我试了试用Pinecone的metadata过滤,但感觉还是有点乱,有没有大佬在MCP里实际做过这块的?求分享一点设计经验,先谢过!
最近在折腾MCP(模型上下文协议),想给自己的AI助手加个长期记忆功能,打算用向量数据库来存历史对话。但遇到个问题:是把整段对话压缩成一个向量存,还是每条消息单独存?如果按对话分段存,那上下文关联怎么处理?比如用户聊完A话题跳到B话题,再切回A,怎么把相关片段都召回?我试了试用Pinecone的metadata过滤,但感觉还是有点乱,有没有大佬在MCP里实际做过这块的?求分享一点设计经验,先谢过!
按话题分段存,每段带上话题标签和向量,召回时先匹配话题再取片段,比整段压一个向量靠谱多了。
我按消息粒度存,再给每段对话打个topic标签,切回A话题时按标签召回就行,比纯metadata过滤省心。
有没有更详细的教程推荐?
有没有更详细的教程推荐?