最近在搭一个多智能体协作的Demo,需要频繁切换动态图调试和部署。我先是用了PyTorch写原型,但后面要上生产环境,同事说TensorFlow Serving更稳,结果迁移时光是改tf.function和兼容性就卡了三天。现在又看到很多Agent框架(比如AutoGen、LangChain)底层默认支持PyTorch,心态有点崩。
楼主
2026-08-12
PyTorch和TensorFlow来回横跳快崩溃了,Agent项目到底该选哪个?
请 登录 后发表回复
全部回复
共 82 条
2楼
24天前
生产环境不一定非TensorFlow Serving不可,TorchServe或者直接用FastAPI包一层也够用,多智能体Demo这种量级真没必要为了部署折腾框架迁移。AutoGen和LangChain生态确实更偏PyTorch,你硬切TF反而后面调Agent逻辑会更痛苦。我建议原型和生产统一用PyTorch,把精力花在Agent编排和工具调用上,那才是项目的核心难点。真到了性能瓶颈再考虑换推理后端,那时候用ONNX或者Triton过渡也比现在重写强。
3楼
17天前
Agent生态现在基本是PyTorch的天下,别折腾迁移了,生产直接用TorchServe或Triton也不差。