背景是之前一直在用Keras做CV的小实验,最近组里要上一个工业检测的项目,需要部署到嵌入式设备上。老板让我自己选框架,我调研了几天反而更懵了。
楼主
2026-07-31
大家现在主力用PyTorch还是TensorFlow?最近转项目好纠结
请 登录 后发表回复
全部回复
共 124 条
2楼
28天前
工业检测部署到嵌入式的话,TF Lite和ONNX Runtime的生态确实更成熟些,尤其是量化工具链比较省心。不过如果团队之前Keras用得多,转TF也就改改API的事,PyTorch那边动态图写起来爽但端侧部署坑要多踩几个。你们目标板子是啥芯片,有没有NPU?这个其实比框架选择更影响落地难度。
3楼
26天前
工业检测加嵌入式部署的话,PyTorch这边有TorchScript和ONNX两条路,TF那边TFLite对量化支持更成熟一些,但生态这几年确实被拉开差距了。我们组去年做类似项目最后选了PyTorch,主要是训练到导出链路顺,不过嵌入式端跑量化模型还是踩了不少坑。建议你先看目标芯片的SDK官方支持哪个框架,这个比框架本身好不好用更关键,毕竟部署跑不起来再顺手也白搭。
4楼
24天前
嵌入式部署的话建议直接看TensorFlow Lite,PyTorch那边edge端还是折腾些。
5楼
16天前
工业检测加嵌入式部署这个组合,其实选型逻辑跟纯做实验差挺多的。你要是只比训练端的生态,PyTorch现在确实舒服,调试直观、社区也活跃,但落到嵌入式那一步,TensorFlow系(尤其是TFLite和Edge TPU那条线)的部署工具链还是更成熟一些,量化、算子兼容这些坑踩起来相对少。不过这两年PyTorch也在追,TorchScript加ONNX再转TensorRT或者NCNN,路子是通的,就是中间环节多了容易出幺蛾子。你们板子具体是什么芯片?如果是瑞芯微或者寒武纪那种,最好先去看官方示例用的是哪个框架,跟着走能省不少事。我的建议是训练端用PyTorch、导出走ONNX,部署端再按芯片选运行时,别指望一个框架从头吃到尾。真要图省心,也可以先拿个小模型把整条部署链路跑通再决定,不然调研再多都是纸上谈兵。