评价此页

torch.accelerator#

创建日期:2024年10月27日 | 最后更新:2025年11月13日

此包引入了对 python 中当前 加速器 (accelerator) 的支持。

device_count

返回当前可用的 加速器 数量。

is_available

检查当前加速器在运行时是否可用:即是否已构建、所有必需驱动程序是否可用且至少有一个设备可见。

current_accelerator

返回编译时可用的加速器设备。

set_device_index

将当前设备索引设置为给定设备。

set_device_idx

(已弃用) 将当前设备索引设置为指定设备。

current_device_index

返回当前 加速器 所选设备的索引。

current_device_idx

(已弃用) 返回当前 加速器 所选设备的索引。

set_stream

将当前流设置为指定流。

current_stream

返回指定设备当前选定的流。

synchronize

等待指定设备上所有流中的所有内核执行完成。

device_index

用于设置当前 加速器 当前设备索引的上下文管理器。

内存管理#

empty_cache

释放缓存分配器当前持有的所有未占用内存,以便其他应用程序可以使用这些内存。

get_memory_info

返回指定设备索引的当前设备内存信息。

max_memory_allocated

返回指定设备索引下,当前 加速器 由张量占用的最大设备内存(以字节为单位)。

max_memory_reserved

返回指定设备索引下,当前 加速器 由缓存分配器管理的最大设备内存(以字节为单位)。

memory_allocated

返回指定设备索引下,当前 加速器 由张量占用的设备内存(以字节为单位)。

memory_reserved

返回指定设备索引下,当前 加速器 由缓存分配器管理的设备内存(以字节为单位)。

memory_stats

返回指定设备索引的加速器设备内存分配器统计信息字典。

reset_accumulated_memory_stats

重置指定设备索引下,由当前 加速器 内存分配器追踪的“累积”(历史)统计信息。

reset_peak_memory_stats

重置指定设备索引下,由当前 加速器 内存分配器追踪的“峰值”统计信息。