评价此页

torch.compiler API 参考#

创建于:2023 年 6 月 02 日 | 最后更新于:2025 年 12 月 16 日

有关 torch.compiler 的快速概述,请参阅 torch.compiler

compile

有关此函数的参数的详细信息,请参阅 torch.compile()

reset

此函数清除所有编译缓存并将系统恢复到其初始状态。

allow_in_graph

告知编译器前端 (Dynamo) 跳过函数的符号内省,而是在遇到该函数时直接将其写入图形。

substitute_in_graph

注册一个 polyfill 处理程序,用于处理一个函数(通常是 C 扩展中的 C 函数),在图形中内联原始函数时用它来代替原始函数。

assume_constant_result

此函数用于将函数 fn 标记为具有常量结果。

list_backends

返回可以传递给 torch.compile(..., backend="name") 的有效字符串。

disable

此函数提供了一个装饰器,用于禁用函数上的编译。

set_stance

设置编译器的当前姿态。

set_enable_guard_collectives

启用在 guard 评估期间使用 collectives,以同步跨 rank 的行为。

cudagraph_mark_step_begin

指示推理或训练的新迭代即将开始。

is_compiling

指示图是否作为 torch.compile() 或 torch.export() 的一部分执行/跟踪。

is_dynamo_compiling

指示图形是否通过 TorchDynamo 跟踪。

is_exporting

指示我们是否处于导出过程中。

keep_portable_guards_unsafe

一个通用函数,仅保留可以在 Python 和非 Python 环境中使用的 guard。

skip_guard_on_inbuilt_nn_modules_unsafe

一个通用函数,用于跳过内置 nn 模块(如 torch.nn.Linear)上的 guard。

skip_guard_on_all_nn_modules_unsafe

一个通用函数,用于跳过所有 nn 模块上的 guard,包括用户定义的和内置的 nn 模块(如 torch.nn.Linear)。

keep_tensor_guards_unsafe

一个通用函数,用于在所有张量上保留张量 guard。

skip_guard_on_globals_unsafe

一个通用函数,用于跳过所有全局变量上的 guard。

skip_all_guards_unsafe

一个用于跳过编译函数上所有 guard 的函数。

nested_compile_region

告知 ``torch.compile`` 标记的操作集形成一个嵌套编译区域(通常在完整模型中重复出现),其代码可以编译一次并安全地重用。