我有一个使用分布式TensorFlow的计划，我看到TensorFlow可以使用gpu进行训练和测试。在集群环境中，每台机器可能有0个或1个或多个gpu，我想在尽可能多的机器上运行我的TensorFlow图。
我发现当运行tf.Session()时，TensorFlow在日志消息中给出了关于GPU的信息，如下所示:
I tensorflow/core/common_runtime/gpu/gpu_init.cc:126] DMA: 0
I tensorflow/core/common_runtime/gpu/gpu_init.cc:136] 0: Y
I tensorflow/core/common_runtime/gpu/gpu_device.cc:838] Creating TensorFlow device (/gpu:0) -> (device: 0, name: GeForce GTX 1080, pci bus id: 0000:01:00.0)
我的问题是如何从TensorFlow获取当前可用GPU的信息?我可以从日志中获得加载的GPU信息，但我想以一种更复杂的编程方式来实现。
我也可以故意使用CUDA_VISIBLE_DEVICES环境变量限制GPU，所以我不想知道从OS内核获取GPU信息的方法。
简而言之，我想要一个函数像tf.get_available_gpu()将返回['/gpu:0'， '/gpu:1']如果有两个gpu可用的机器。我如何实现这个?
除了Mrry的精彩解释(他建议使用device_lib.list_local_devices())之外，我还可以向您展示如何从命令行检查GPU相关信息。
因为目前只有Nvidia的gpu适用于NN框架，所以答案只涉及它们。Nvidia有一个页面记录了如何使用/proc文件系统接口来获取有关驱动程序、任何已安装的Nvidia显卡和AGP状态的运行时信息。
/proc/driver/nvidia/gpus/0..N/information
提供有关
每个安装的NVIDIA图形适配器(型号名称，IRQ, BIOS
版本，总线类型)。注意，BIOS版本仅在
X正在运行。
因此，你可以从命令行cat /proc/driver/nvidia/ GPU /0/information运行这个命令，并查看关于你的第一个GPU的信息。从python中运行这个很容易，你也可以检查第二个、第三个、第四个GPU，直到它失败。
当然，Mrry的答案更加可靠，我不确定我的答案是否适用于非linux机器，但Nvidia的页面提供了其他有趣的信息，这些信息不是很多人知道的。
有一个名为device_lib.list_local_devices()的无文档方法，它允许您列出本地进程中可用的设备。(注意:作为一个未记录的方法，这是受制于向后不兼容的更改。)该函数返回DeviceAttributes协议缓冲区对象的列表。您可以为GPU设备提取一个字符串设备名称列表，如下所示:
from tensorflow.python.client import device_lib
def get_available_gpus():
local_device_protos = device_lib.list_local_devices()
return [x.name for x in local_device_protos if x.device_type == 'GPU']
请注意(至少到TensorFlow 1.4)，调用device_lib.list_local_devices()将运行一些初始化代码，默认情况下，将在所有设备上分配所有GPU内存(GitHub问题)。为了避免这种情况，首先使用显式的小per_process_gpu_fraction或allow_growth=True创建一个会话，以防止分配所有内存。请参阅这个问题了解更多细节。
确保你有最新的TensorFlow 2。x GPU安装在GPU支持机器上，
在python中执行以下代码，
from __future__ import absolute_import, division, print_function, unicode_literals
import tensorflow as tf
print("Num GPUs Available: ", len(tf.config.experimental.list_physical_devices('GPU')))
会得到一个这样的输出，
2020-02-07 10:45:37.587838:我
tensorflow / stream_executor cuda / cuda_gpu_executor。答:1006]成功
从SysFS读取的NUMA节点有负值(-1)，但必须有
至少一个NUMA节点，因此返回NUMA节点零2020-02-07
10:45:37.588896:我
tensorflow /核心/ common_runtime / gpu / gpu_device。cc:1746]增加可见
gpu设备:0,1,2,3,4,5,6,7 Num gpu可用:8
除了Mrry的精彩解释(他建议使用device_lib.list_local_devices())之外，我还可以向您展示如何从命令行检查GPU相关信息。
因为目前只有Nvidia的gpu适用于NN框架，所以答案只涉及它们。Nvidia有一个页面记录了如何使用/proc文件系统接口来获取有关驱动程序、任何已安装的Nvidia显卡和AGP状态的运行时信息。
/proc/driver/nvidia/gpus/0..N/information
提供有关
每个安装的NVIDIA图形适配器(型号名称，IRQ, BIOS
版本，总线类型)。注意，BIOS版本仅在
X正在运行。
因此，你可以从命令行cat /proc/driver/nvidia/ GPU /0/information运行这个命令，并查看关于你的第一个GPU的信息。从python中运行这个很容易，你也可以检查第二个、第三个、第四个GPU，直到它失败。
当然，Mrry的答案更加可靠，我不确定我的答案是否适用于非linux机器，但Nvidia的页面提供了其他有趣的信息，这些信息不是很多人知道的。
