评价此页

torch.xpu.memory.memory_stats#

torch.xpu.memory.memory_stats(device=None)[source]#

为指定设备返回 XPU 内存分配器统计信息的字典。

此函数返回的统计信息是一个字典,其中每个统计信息都是一个非负整数。

核心统计信息

  • "allocated_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": 分配的内存量。

  • "reserved_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": 保留的内存量。

  • "active_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": 活动内存量。

  • "requested_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": 客户端代码请求的内存,将其与 allocated_bytes 进行比较,以检查分配四舍五入是否会增加过多开销。

对于这些核心统计信息,值细分为如下:

池类型

  • all: 所有内存池的组合统计信息。

  • large_pool: 大内存分配池的统计信息(适用于大小 >= 1MB 的分配)。

  • small_pool: 小内存分配池的统计信息(适用于大小 < 1MB 的分配)。

指标类型

  • current: 此指标的当前值。

  • peak: 此指标的最大值。

  • allocated: 此指标的历史总增长量。

  • freed: 此指标的历史总减少量。

参数

device (torch.deviceintstr, 可选) – 选择的设备。如果 deviceNone(默认),则返回当前设备 (current_device()) 的统计信息。

返回类型

dict[str, Any]