MPS 环境变量#
创建日期:2025 年 6 月 11 日 | 最后更新日期:2025 年 6 月 11 日
PyTorch 环境变量
变量 |
描述 |
---|---|
|
如果设置为 |
|
将日志选项位掩码设置为 |
|
将配置文件和 signpost 位掩码设置为 |
|
MPS 分配器的高水位线比例。默认值为 1.7。 |
|
MPS 分配器的低水位线比例。默认值为 1.4(统一)或 1.0(离散)。 |
|
如果设置为 |
|
如果设置为 |
|
如果设置为 |
注意
高水位线比例是允许的总分配量的硬限制
0.0
: 禁用高水位线限制(如果发生系统范围的 OOM,可能会导致系统故障)1.0
: 推荐的最大分配大小(即 device.recommendedMaxWorkingSetSize)>1.0
: 允许超过 device.recommendedMaxWorkingSetSize 的限制
例如,值为 0.95 表示我们将分配量最多为推荐的最大分配大小的 95%;超出此范围的分配将因 OOM 错误而失败。
低水位线比例是尝试将内存分配限制在较低水位线级别的软限制,方法是进行垃圾回收或更频繁地提交命令缓冲区(也称为自适应提交)。值介于 0 到 m_high_watermark_ratio 之间(设置为 0.0 会禁用自适应提交和垃圾回收)。例如,值为 0.9 表示我们“尝试”将分配量限制在推荐的最大分配大小的 90%。