NUMA 绑定实用程序#

创建于：2025 年 7 月 25 日 | 最后更新于：2025 年 8 月 12 日

class torch.numa.binding.AffinityMode(value)[source]#: 有关每个亲和模式的详细信息，请参阅 torch.distributed.run。

class torch.numa.binding.NumaOptions(affinity_mode: torch.numa.binding.AffinityMode, should_fall_back_if_binding_fails: bool = False)[source]#

affinity_mode: AffinityMode#

如果为 true，则在无法计算或应用 NUMA 绑定时，我们将回退到使用原始命令/入口点。

您应该避免使用此选项！它仅作为一种安全机制，用于促进 NUMA 绑定的批量部署。

torch.numa.binding.maybe_temporarily_apply_numa_binding_to_current_thread(*, gpu_index, numa_options)[source]#

1. 将 NUMA 绑定应用于当前线程，适用于将与 GPU gpu_index 交互的线程。 2. 在退出上下文管理器之前，将 CPU 亲和性重置为原始状态。

文档