我是人工智能新手，想知道我的电脑上是否安装了两个不同的 GPU，我可以将任务分流到一个并像平常一样使用另一个吗？

Question

我的电脑本身就有相当不错的统计数据，但我有时在处理人工智能任务时会耗尽 GPU 内存。我最近购买了 Nvidia RTX T1000 (8GB)，我想将其专门用于 AI。

Python 中有什么东西可以用来告诉它寻找特定的卡片吗？

作为参考，我的另一张卡是 RTX 3080。我知道这可能是一个荒谬的请求，但我很好奇是否可以让它工作。

我刚刚获得该卡，所以我还没有尝试过任何事情。

Answer 1

在 PyTorch 中，您可以将其设置为使用 GPU，如下所示：

import torch

if torch.cuda.is_available():
    print("GPU available!")
else:
    print("GPU not available.")

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
print(f"Using device: {device}")

如果您想使用多个 GPU：

import torch

print(f"Number of available GPUs: {torch.cuda.device_count()}")

# Select between 2 available GPUs
available_gpu_ids = [0, 1]  
model = nn.parallel.DataParallel(model, device_ids=device_ids)

此外，在许多 ML 库（例如 Scikit Learn）中，您可以设置算法将使用的 CPU 核的数量。