torch.compiler API 参考

创建于：2023年6月2日 | 最后更新于：2025年6月22日

有关 torch.compiler 的快速概述，请参阅 torch.compiler。

compile	有关此函数的参数详情，请参阅 torch.compile()。
reset	此函数清除所有编译缓存，并将系统恢复到初始状态。
allow_in_graph	指示编译器前端（Dynamo）在遇到函数时，跳过其符号内省，而是直接将其写入图。
substitute_in_graph	注册一个函数（通常是 C 扩展的 C 函数）的 polyfill 处理程序，在将原始函数内联到图中时使用，以代替原始函数。
assume_constant_result	此函数用于将函数 fn 标记为具有常量结果。
list_backends	返回可以传递给 torch.compile(..., backend="name") 的有效字符串。
disable	此函数提供一个装饰器来禁用对函数的编译。
set_stance	设置编译器的当前 stance。
set_enable_guard_collectives	在 guard 评估期间启用 collectives 的使用，以跨 rank 同步行为。
cudagraph_mark_step_begin	指示新的推理或训练迭代即将开始。
is_compiling	指示图是否作为 torch.compile() 或 torch.export() 的一部分执行/跟踪。
is_dynamo_compiling	指示图是否通过 TorchDynamo 进行跟踪。
is_exporting	指示是否处于导出状态。
skip_guard_on_inbuilt_nn_modules_unsafe	一个常用的函数，用于跳过对内置 nn 模块（如 torch.nn.Linear）的 guard。
skip_guard_on_all_nn_modules_unsafe	一个常用的函数，用于跳过对所有 nn 模块的 guard，包括用户定义的和内置的 nn 模块（如 torch.nn.Linear）。
keep_tensor_guards_unsafe	一个常用的函数，用于保留对所有张量的 tensor guard。
skip_guard_on_globals_unsafe	一个常用的函数，用于跳过对所有全局变量的 guard。
nested_compile_region	告诉 ``torch.compile`` 标记的操作集构成一个嵌套的编译区域（通常在整个模型中重复），其代码可以编译一次并安全重用。