NVIDIA_VISIBLE_DEVICES=0/1.. 和 nvidia.com/gpu: 0/1.. 有什么区别？

Question

当我将 NVIDIA_VISIBLE_DEVICES=0 更改为 1 时，它基本上是在访问第二个 GPU 的卡，但是这次将 nvidia.com/gpu: 0 更改为 1 时，它不会访问第二个 GPU。 nvidia.com/gpu 数字的实际用例是什么？

Answer 1

查看 GPU 卡的索引从 0 开始，即您的第一张卡将在第 0 位进行索引。 nvidea.com/gpu 通常用于资源管理。当您在类似容器的环境中使用 NVIDEA GPU 时，尤其需要使用此方法。 您可以使用 nvidia-smi 等命令检查容器内的 GPU 信息，以验证 GPU 可见性和索引。或者如果问题仍然存在，请访问该工具的官方文档。