torch.cuda.utilization

torch.cuda.utilization(device=None)

返回 nvidia-smi 提供的 GPU 在过去采样周期内一个或多个内核执行期间的执行时间百分比。

参数

device (torch.device or int, optional) – 选择的设备。如果 device 为 None（默认），则返回当前设备统计信息，由 current_device() 指定。

返回类型

int

警告：每个采样周期可能在 1 秒到 1/6 秒之间，具体取决于查询的产品。