MPS 环境变量#
创建日期:2025 年 6 月 11 日 | 最后更新日期:2025 年 6 月 11 日
PyTorch 环境变量
变量 |
描述 |
---|---|
|
如果设置为 |
|
将日志选项位掩码设置为 |
|
将配置文件和 signpost 位掩码设置为 |
|
MPS 分配器的高水位线比例。默认为 1.7。 |
|
MPS 分配器的低水位线比例。默认为 1.4(统一)或 1.0(离散)。 |
|
如果为 |
|
如果为 |
|
如果为 |
注意
高水位线比例 是允许的总分配的硬限制
0.0
:禁用高水位线限制(如果发生系统范围的 OOM,可能会导致系统故障)1.0
:推荐的最大分配大小(即 device.recommendedMaxWorkingSetSize)>1.0
:允许超过 device.recommendedMaxWorkingSetSize 的限制
例如,值为 0.95 意味着我们最多分配推荐最大分配大小的 95%;超过此值,分配将因 OOM 错误而失败。
低水位线比例 是一个软限制,旨在通过垃圾回收或更频繁地提交命令缓冲区(也称为自适应提交)将内存分配限制在较低的水位线水平。值在 0 到 m_high_watermark_ratio 之间(设置为 0.0 可禁用自适应提交和垃圾回收)。例如,值为 0.9 意味着我们“尝试”将分配限制在推荐最大分配大小的 90% 以内。