同一个pth权重文件，同一个验证集，验证时，多卡和单卡的map不一样

[ffxxy]

同一个pth权重文件，同一个验证集，验证时，多卡和单卡的map不一样

[ShihuaHuang95]

非常感谢你对我们工作的关注和感兴趣。
我们曾在多个服务器上验证了checkpoint的一致性。
你提到的这个问题现在仍然存在吗？是否可以复现，如果真的仍然存在且可复现，那就是很严重的技术问题了，其中关联到Pytorch和显卡的问题。
逻辑上来说保存的checkpoint不应该变来变去。

[LIULONGEE]

I got same problem, when fixing total_batch_size and only change gpus num. have you fixed it?