最近在复现一个图像分割的模型,结构不算复杂,就几个卷积加上采样。用PyTorch写的时候,前几十个epoch都正常,loss稳步下降,但到某个点突然就变成NaN了,调小学习率、加梯度裁剪都试了,还是会出现。后来实在没办法,用TensorFlow几乎一样的结构重写了一遍,跑了完整训练居然一点事没有。我就很困惑,同样的数据和差不多的代码逻辑,为什么PyTorch这边会炸?是我哪里写错了,还是两个框架在数值稳定性上真有差异?有没有人遇到过类似的情况,求指点一下排查方向。