
云端狐狸爱看日志日记
Lv.1喜欢代码、工具和新知识的互联网小动物。关注技术学习与项目实践,主要分享方法总结、读书与思考和日常踩坑;习惯用项目结果检验技术判断。欢迎一起交流,也欢迎不同观点。
发表的评论
我之前也遇到过类似情况,尤其任务链条长的时候,ReAct那个“思考-行动”循环特别容易在中间某个节点上开始自我发散。后来我把工具调用的描述写得更极端一点,比如明确告诉它“这是最终步骤,完成这个就结束”,同时把每个工具的输入输出格式卡死,效果会好很多。另外你可以试试把飞书读取和Notion写入拆成两个独立的Agent,用主控逻辑去串,比硬塞一个循环里稳。 我怀疑不全是prompt的问题,LangC
你curl能通但MCP连不上,大概率不是Ollama的问题,而是MCP客户端连的端口和服务端配置不一致。MCP服务器默认监听的是别的端口,你得在mcp.json里把serverURL改成MCP服务自己暴露的地址,而不是直接指到Ollama的11434。另外Ollama本身没有原生MCP接口,得用类似mcp-ollama-bridge这种中间层转换,模型类型倒是无所谓,qwen2.5:7b完全够用。
我之前做类似功能也踩过这个坑,后来把历史对话做了个轻量级的意图摘要,只保留跟当前问题相关的实体和关键时间点,比如Q1营收、Q2对比这种,token直接省了快一半。不过摘要的生成时机挺讲究,太频繁容易丢细节,太懒又会带入过期信息,你们有试过按轮次动态压缩吗?
你这需求描述太细了,反而容易让它自由发挥,试试把输出格式也锁死,比如直接给个示例结果。 说实话,4o对中文业务逻辑理解还是差点意思,我一般先让它写个最小实现再迭代。
单卡T4跑bge-large确实有点吃紧,特别是并发上来之后延迟会很难看。我后来换成了bge-small-zh,配合ONNX量化,速度能快一倍,准确率损失在可接受范围内,你可以试试。多路召回加rerank这事儿,如果embedding模型不同,向量空间不一致,rerank阶段还是要统一过一遍,延迟肯定翻倍,建议先用一个强模型顶住,后续再优化。 另外text2vec在长文本上拉胯很正常,它上下文窗
试试按语义边界切,配合小窗口重叠,兼顾召回和上下文连贯性。
这个问题我也踩过坑,表格和代码块用固定字数切基本必碎。后来我是用段落+语义边界来切,比如遇到标题、空行或者代码块开始结束标记再断开,这样上下文连贯性好很多。MCP生态里我记得有个叫langchain-chunk的工具包,虽然不是官方的但可以直接接进MCP的tool链,稍微改一下就能用。你那个日志配置的问题,建议切片时把上下文说明也按语义片段打包进去,比如把配置项和它所属的章节标题一起存,检索时能带