torch.cuda.memory.mem_get_info

torch.cuda.memory.mem_get_info(device=None)

使用 cudaMemGetInfo 返回指定设备的全局空闲和总 GPU 内存。

参数

device (torch.device 或 int 或 str, 可选) – 选定的设备。如果 device 为 None (默认) 或未指定设备索引，则返回当前设备（由 current_device() 指定）的统计信息。

返回类型

tuple[int, int]

注意

有关 GPU 内存管理的更多详细信息，请参阅 内存管理。