torch.xpu

创建于: 2024年02月01日 | 最后更新于: 2025年12月03日

此包引入了对 XPU 后端（特别针对 Intel GPU 优化）的支持。

此包是惰性初始化的，因此您可以随时导入它，并使用 is_available() 来确定您的系统是否支持 XPU。

StreamContext	选择给定流的上下文管理器。
can_device_access_peer	查询设备是否可以访问对等设备的内存。
current_device	返回当前选定设备的索引。
current_stream	返回给定设备的当前选定 Stream。
device	更改选定设备的上下文管理器。
device_count	返回可用的 XPU 设备数量。
device_of	将当前设备更改为给定对象设备的上下文管理器。
get_arch_list	返回此库编译的目标 XPU 架构列表。
get_device_capability	获取设备的 XPU 能力。
get_device_name	获取设备的名称。
get_device_properties	获取设备的属性。
get_gencode_flags	返回此库编译的 XPU AOT (ahead-of-time) 构建标志。
get_stream_from_external	从外部 SYCL 队列返回一个 Stream。
init	初始化 PyTorch 的 XPU 状态。
is_available	返回一个布尔值，指示 XPU 当前是否可用。
is_bf16_supported	返回一个布尔值，指示当前 XPU 设备是否支持 bfloat16 数据类型。
is_initialized	返回 PyTorch 的 XPU 状态是否已初始化。
is_tf32_supported	返回一个布尔值，指示当前 XPU 设备是否支持 tf32 数据类型。
set_device	设置当前设备。
set_stream	设置当前流。这是一个用于设置流的包装 API。
stream	包装选择给定流的上下文管理器 StreamContext。
synchronize	等待 XPU 设备上所有流中的所有内核完成。

随机数生成器

get_rng_state	将指定 GPU 的随机数生成器状态作为 ByteTensor 返回。
get_rng_state_all	返回一个 ByteTensor 列表，表示所有设备的随机数状态。
initial_seed	返回当前 GPU 的当前随机种子。
manual_seed	设置当前 GPU 随机数生成的种子。
manual_seed_all	设置所有 GPU 随机数生成的种子。
seed	将当前 GPU 随机数生成的种子设置为一个随机数。
seed_all	将所有 GPU 随机数生成的种子设置为一个随机数。
set_rng_state	设置指定 GPU 的随机数生成器状态。
set_rng_state_all	设置所有设备的随机数生成器状态。

流和事件

事件	XPU 事件的包装器。
流	XPU 流的包装器。

内存管理

XPUPluggableAllocator	从共享库加载的 XPU 内存分配器。
change_current_allocator	将当前使用的内存分配器更改为提供的分配器。
empty_cache	释放缓存分配器当前持有的所有未占用的缓存内存，以便其他 XPU 应用程序可以使用它们。
get_per_process_memory_fraction	检索当前为给定 XPU 设备上的进程设置的内存分数。
max_memory_allocated	返回给定设备上张量占用的最大 GPU 内存（以字节为单位）。
max_memory_reserved	返回给定设备上缓存分配器管理的最大 GPU 内存（以字节为单位）。
mem_get_info	返回给定设备的全局空闲和总 GPU 内存。
memory_allocated	返回给定设备上张量当前占用的 GPU 内存（以字节为单位）。
memory_reserved	返回给定设备上缓存分配器管理的当前 GPU 内存（以字节为单位）。
memory_stats	返回给定设备的 XPU 内存分配器统计信息的字典。
memory_stats_as_nested_dict	以嵌套字典的形式返回 memory_stats() 的结果。
reset_accumulated_memory_stats	重置 XPU 内存分配器跟踪的“累积”（历史）统计信息。
reset_peak_memory_stats	重置 XPU 内存分配器跟踪的“峰值”统计信息。
set_per_process_memory_fraction	设置 XPU 设备上单个进程的内存分数。