最近在自学大模型相关的东西,发现网上教程有的用PyTorch有的用TensorFlow,有点纠结该主攻哪个。自己之前只用过一点Keras做简单分类,对底层框架理解不深。看招聘要求好像PyTorch偏多,但公司里用TF Serving部署的也不少。想问问各位实际做LLM微调或部署的,现在入手哪个框架性价比更高?还是说两个都得会?真心求指点,不想走弯路。
楼主
21天前
PyTorch和TensorFlow现在学哪个更合适?主要想做大模型方向
请 登录 后发表回复
全部回复
共 3 条
2楼
20天前
大模型这块基本是PyTorch的天下了,HuggingFace上那些开源模型和微调脚本清一色torch,跟着生态走能省不少事。不过TF Serving在生产部署上确实还占着一块地盘,尤其是一些老团队。我的建议是先把PyTorch吃透,能跑通微调再说,TF等真遇到部署需求现学也来得及,底层概念都通的。
3楼
18天前
说实话现在入坑大模型基本无脑选PyTorch,HuggingFace那一套生态全是基于它,微调LLaMA、Qwen这些开源模型几乎清一色PyTorch代码。TF不是不能用,但LLM这块社区资源和教程明显少一截,踩坑了都不好搜答案。部署端TF Serving确实还有存量,不过现在vLLM、TGI这些推理框架也都是PyTorch系为主。建议先把PyTorch吃透,TF等真遇到公司项目再补也来得及,别一开始就两头抓。
4楼
13天前
现在入坑大模型的话,直接上PyTorch基本没啥悬念。你看HuggingFace上那些开源模型和微调脚本,清一色都是PyTorch生态,想跑个LoRA或者QLoRA,教程和现成代码全是torch的。TF那边虽然Serving部署确实成熟,但那是工程侧的事,跟你要不要用它来写训练代码是两码事。我身边做大模型的朋友,训练和微调几乎没人碰TF了,最多部署阶段拿TF Serving或者Triton来扛推理。你要是时间有限,先把PyTorch吃透,能自己改模型结构、跑通微调流程,这比啥都实在。TF不是不能学,但优先级往后放,等你真进了公司发现部署链路是TF再补也来得及。别被“两个都得会”吓到,入门阶段专注一个反而走得更快。