torch.accelerator

创建于: 2024年10月27日 | 最后更新于: 2025年11月13日

此包介绍了对 Python 中当前 加速器 的支持。

device_count	返回当前可用的 加速器 的数量。
is_available	检查当前加速器在运行时是否可用：它是否已构建，所有必需的驱动程序是否可用，并且至少有一个设备可见。
current_accelerator	返回编译时可用的加速器的设备。
set_device_index	将当前设备索引设置为给定设备。
set_device_idx	(已弃用) 将当前设备索引设置为给定的设备。
current_device_index	返回当前为当前 加速器 选择的设备的索引。
current_device_idx	(已弃用) 返回当前为当前 加速器 选择的设备的索引。
set_stream	将当前流设置为给定的流。
current_stream	返回给定设备当前选择的流。
synchronize	等待给定设备上的所有流中的所有内核完成。
device_index	上下文管理器，用于设置当前 加速器 的当前设备索引。

内存管理

empty_cache	释放缓存分配器当前持有的所有未占用缓存内存，以便其他应用程序可以使用。
get_memory_info	返回给定设备索引的当前设备内存信息。
max_memory_allocated	返回当前 加速器 在给定设备索引上由张量占用的最大设备内存（以字节为单位）。
max_memory_reserved	返回当前 加速器 由缓存分配器管理的、在给定设备索引上的最大设备内存（以字节为单位）。
memory_allocated	返回当前 加速器 在给定设备索引上由张量占用的设备内存（以字节为单位）。
memory_reserved	返回当前 加速器 由缓存分配器管理的、在给定设备索引上的设备内存（以字节为单位）。
memory_stats	返回一个字典，其中包含给定设备索引的加速器设备内存分配器统计信息。
reset_accumulated_memory_stats	重置当前 加速器 内存分配器为给定设备索引跟踪的“累积”（历史）统计信息。
reset_peak_memory_stats	重置当前 加速器 内存分配器为给定设备索引跟踪的“峰值”统计信息。