评价此页

torch.mtia.memory#

创建于:2024 年 12 月 09 日 | 最后更新于:2025 年 07 月 28 日

MTIA 后端是独立于主代码库实现的,这里仅定义了接口。

此包增加了对 MTIA 中实现的设备内存管理的支持。

memory_stats

返回给定设备的 MTIA 内存分配器统计信息的字典。

memory_allocated

返回给定设备上由张量占用的当前 MTIA 内存(以字节为单位)。