评价此页

torch.compiler API 参考#

创建时间:2023 年 6 月 2 日 | 最后更新时间:2025 年 11 月 14 日

有关 torch.compiler 的快速概述,请参阅 torch.compiler

compile

有关此函数的参数的详细信息,请参阅 torch.compile()

reset

此函数会清除所有编译缓存,并将系统恢复到初始状态。

allow_in_graph

指示编译器前端 (Dynamo) 跳过函数的符号内省,而是直接将其写入图形中。

substitute_in_graph

为某个函数(通常是 C 扩展中的 C 函数)注册一个 polyfill 处理程序,以便在将原始函数内联到图形中时使用。

assume_constant_result

此函数用于将函数 fn 标记为具有常量结果。

list_backends

返回可以传递给 torch.compile(..., backend="name") 的有效字符串。

disable

此函数提供了一个装饰器,用于禁用函数上的编译。

set_stance

设置编译器的当前状态。

set_enable_guard_collectives

启用在 guard 评估 *期间* 使用 collective 操作来跨 rank 同步行为。

cudagraph_mark_step_begin

指示推理或训练的新迭代即将开始。

is_compiling

指示图是否作为 torch.compile() 或 torch.export() 的一部分执行/跟踪。

is_dynamo_compiling

指示图形是否通过 TorchDynamo 进行跟踪。

is_exporting

指示我们是否处于导出状态。

skip_guard_on_inbuilt_nn_modules_unsafe

一个用于跳过内置 nn 模块(如 torch.nn.Linear)上的 guard 的通用函数。

skip_guard_on_all_nn_modules_unsafe

一个用于跳过所有 nn 模块(包括用户定义的和内置的 nn 模块,如 torch.nn.Linear)上的 guard 的通用函数。

keep_tensor_guards_unsafe

一个用于保留所有张量上的 tensor guard 的通用函数。

skip_guard_on_globals_unsafe

一个用于跳过所有全局变量上的 guard 的通用函数。

skip_all_guards_unsafe

一个用于跳过编译函数的 *所有* guard 的函数。

nested_compile_region

告知 ``torch.compile`` 标记的操作集合构成一个嵌套的编译区域(通常在整个模型中重复出现),其代码可以被编译一次并安全地重用。