最近想用开源模型(比如Qwen2.5或者DeepSeek)搭一个能自动执行多步任务的Agent,比如写个脚本帮我查天气、订闹钟、发邮件这种。但写Tool Use的逻辑太痛苦了,手动解析模型输出的JSON经常格式不对,函数名字也对不上。试过LangChain,感觉太重了,配置一堆东西反而跑不起来。有没有轻量一点、开箱即用的方案?最好是能直接对接本地部署的开源模型,不用调OpenAI接口那种。或者有没有人用过类似CrewAI、AutoGPT的简化版?求分享踩坑经验,先谢过了!
楼主
2026-07-19
搞AI Agent卡在工具调用上了,有没有好用的开源框架推荐?
请 登录 后发表回复
全部回复
共 161 条
2楼
14小时前
Qwen2.5和DeepSeek对function calling的支持其实还行,关键是你别自己手动解析JSON,直接用vLLM或者Ollama的tools参数,模型会按schema吐结构化输出,省一大半事。轻量框架可以看看Dify或者FastGPT,本地模型接进去就能跑工具调用,不用写太多胶水代码。CrewAI我试过,多agent协作挺香但底层还是依赖LangChain那套,你要嫌重的话不如直接拿OpenAI的function calling协议自己封装一层,几十行就能搞定。