cuda 12.2 的 Pytorch 版本

Question

我无法找到 cuda 驱动程序 12.2 的 Pytorch 版本。谁能指导我在哪里可以找到有帮助的材料。

我当前安装的 pytorch 版本为 11.7。在训练模型时，我面临以下错误。

** 运行时错误（CUDA_MISMATCH_MESSAGE.format（cuda_str_version，torch.version.cuda）

检测到的 CUDA 版本 (12.2) 与用于编译的版本不匹配 PyTorch (11.7)。请确保使用相同的 CUDA 版本。**

PS：我有 nvidia 驱动程序 535

提前致谢

Answer 1

我也有同样的问题。 CUDA 12.2 的 PyTorch 版本似乎还没有出来。

以下是我目前正在探索的几个选项。还没决定我最终会使用哪一个：

1. 使用 NGC 容器
   https://catalog.ngc.nvidia.com/orgs/nvidia/containers/pytorch
   这本质上就像一个虚拟环境，包含所需的 CUDA 驱动程序和所有内容。

2. 降级到 CUDA 12.1 并安装夜间版本
   https://download.pytorch.org/whl/nightly/cu121
   不确定我需要的驱动程序版本，但这可能是一个可行的选择。

3. 等待并希望他们尽快发布

4. （最有可能）我将从源代码构建它。 https://github.com/pytorch/pytorch/issues/104417

参考文献
https://discuss.pytorch.org/t/which-version-of-cuda-12-1-should-be-used/176456 https://discuss.pytorch.org/t/pytorch-for-cuda-12/169447/2

Answer 2

如果您使用的是 Llama-2，我认为您需要将 Nvida CUDA 从 12.2 降级到 10.2。 10.2版本是最稳定的版本。 Pytorch 版本 1.5 可与 Pytorch for CUDA 10.2 配合使用。然而，我遇到的问题是 Anaconda 似乎一直在 Pytorch 中下载 CPU 库而不是 GPU。不知道为什么。