这些函数应该有助于:

>>> import torch

>>> torch.cuda.is_available()
True

>>> torch.cuda.device_count()
1

>>> torch.cuda.current_device()
0

>>> torch.cuda.device(0)
<torch.cuda.device at 0x7efce0b03be0>

>>> torch.cuda.get_device_name(0)
'GeForce GTX 950M'

这告诉我们:

CUDA是可用的，可以在一台设备上使用。 Device 0指GPU GeForce GTX 950M，目前被PyTorch选中。

查询是否有可用的GPU。

torch.cuda.is_available()

如果上面的函数返回False，

你要么没有GPU， 或者没有安装Nvidia驱动程序，所以OS看不到GPU， 或者GPU被环境变量CUDA_VISIBLE_DEVICES隐藏。当CUDA_VISIBLE_DEVICES的值为-1时，将隐藏所有设备。你可以用下面这行代码检查这个值:os.environ['CUDA_VISIBLE_DEVICES']

如果上面的函数返回True，这并不一定意味着你正在使用GPU。在Pytorch中，您可以在创建设备时将张量分配给它们。默认情况下，张量被分配给cpu。要检查张量的分配位置，请执行以下操作:

# assuming that 'a' is a tensor created somewhere else
a.device  # returns the device where the tensor is allocated

注意，您不能操作在不同设备中分配的张量。要了解如何将张量分配给GPU，请参见这里:https://pytorch.org/docs/stable/notes/cuda.html

在GPU上创建一个张量，如下所示:

$ python
>>> import torch
>>> print(torch.rand(3,3).cuda()) 

不要退出，打开另一个终端，检查python进程是否使用该GPU:

$ nvidia-smi

如果你使用的是Linux，我建议安装nvtop https://github.com/Syllo/nvtop

你会得到这样的结果:

如果你在这里是因为你的pytorch总是给torch.cuda.is_available() False，那可能是因为你安装的pytorch版本没有GPU支持。(例如:你在笔记本电脑上编码，然后在服务器上测试)。

解决方案是在pytorch下载页面中使用正确的命令卸载并重新安装pytorch。也参考这个pytorch问题。

这里几乎所有的答案都引用torch.cuda.is_available()。然而，这只是硬币的一部分。它告诉你GPU(实际上是CUDA)是否可用，而不是它是否实际被使用。在一个典型的设置中，你会像这样设置你的设备:

device = torch.device("cuda") if torch.cuda.is_available() else torch.device("cpu")

但在更大的环境中(例如研究)，通常也会给用户更多的选择，因此根据输入，他们可以禁用CUDA，指定CUDA id，等等。在这种情况下，是否使用GPU不仅仅取决于GPU是否可用。在设备被设置为torch设备之后，您可以获取它的type属性来验证它是否是CUDA。

if device.type == 'cuda':
    # do something