torch.accelerator

创建日期：2024 年 10 月 27 日 | 最后更新日期：2025 年 8 月 8 日

本包为 Python 中的当前 accelerator 引入了支持。

device_count	返回当前可用的 accelerator 的数量。
is_available	检查当前加速器在运行时是否可用：它是否已构建，所有必需的驱动程序是否可用，并且至少有一个设备可见。
current_accelerator	返回编译时可用的加速器的设备。
set_device_index	将当前设备索引设置为给定设备。
set_device_idx	(已弃用) 将当前设备索引设置为给定设备。
current_device_index	返回当前为当前 accelerator 选择的设备的索引。
current_device_idx	(已弃用) 返回当前为当前 accelerator 选择的设备的索引。
set_stream	将当前流设置为给定流。
current_stream	返回给定设备当前选择的流。
synchronize	等待给定设备上所有流中的所有内核完成。
device_index	用于为当前 accelerator 设置当前设备索引的上下文管理器。

内存管理

empty_cache	释放缓存分配器当前持有的所有未占用缓存内存，以便其他应用程序可以使用它们。
max_memory_allocated	返回当前 accelerator 为给定设备索引的张量占用的最大设备内存（以字节为单位）。
max_memory_reserved	返回当前 accelerator 由缓存分配器管理的设备的最大内存（以字节为单位），用于给定设备索引。
memory_allocated	返回当前 accelerator 由张量占用的设备内存（以字节为单位），用于给定设备索引。
memory_reserved	返回当前 accelerator 由缓存分配器管理的设备内存（以字节为单位），用于给定设备索引。
memory_stats	返回一个字典，其中包含给定设备索引的加速器设备内存分配器统计信息。
reset_accumulated_memory_stats	重置当前 accelerator 内存分配器为给定设备索引跟踪的“累积”（历史）统计信息。
reset_peak_memory_stats	重置当前 accelerator 内存分配器为给定设备索引跟踪的“峰值”统计信息。