torch.fx.experimental#

创建于: Feb 07, 2024 | 最后更新于: Dec 05, 2025

警告

这些 API 是实验性的，可能会在不另行通知的情况下更改。

class torch.fx.experimental.sym_node.DynamicInt(val)[源代码]#

用于标记 torch.compile 中动态整数的用户 API。旨在同时兼容编译和即时模式。

使用示例

fn = torch.compile(f)
x = DynamicInt(4)
fn(x)  # compiles x as a dynamic integer input; returns f(4)

torch.fx.experimental.sym_node#

`is_channels_last_contiguous_2d`
`is_channels_last_contiguous_3d`
`is_channels_last_strides_2d`
`is_channels_last_strides_3d`
`is_contiguous`
`is_non_overlapping_and_dense_indicator`
`method_to_operator`
`sympy_is_channels_last_contiguous_2d`
`sympy_is_channels_last_contiguous_3d`
`sympy_is_channels_last_strides_2d`
`sympy_is_channels_last_strides_3d`
`sympy_is_channels_last_strides_generic`
`sympy_is_contiguous`
`sympy_is_contiguous_generic`
`to_node`

torch.fx.experimental.symbolic_shapes#

`ShapeEnv`
`DimDynamic`	控制如何为维度执行符号分配。
`StrictMinMaxConstraint`	对于客户端：该维度的大小必须在 'vr' (指定包含-包含的上下界) 范围内，并且必须是非负的，不应为 0 或 1 (但参见下面的注)。
`RelaxedUnspecConstraint`	对于客户端：没有明确的约束；约束是根据跟踪中的 guard 隐式推断出的任何约束。
`EqualityConstraint`	表示和决定输入源之间各种形式的相等约束。
`SymbolicContext`	指定如何在 `create_symbolic_sizes_strides_storage_offset` 中创建符号（例如，它们是静态还是动态）的数据结构。
`StatelessSymbolicContext`	通过 `DimDynamic` 和 `DimConstraint` 给定的 symbolic_context，在 `create_symbolic_sizes_strides_storage_offset` 中创建符号。
`StatefulSymbolicContext`	通过符号源:符号的缓存，通过 symbolic_context 确定，在 `create_symbolic_sizes_strides_storage_offset` 中创建符号。
`SubclassSymbolicContext`	给定一个可跟踪的张量子类的正确符号上下文可能与外部符号上下文不同。
`DimConstraints`	用于符号维度上约束系统的自定义求解器。
`ShapeEnvSettings`	封装了所有可能影响 FakeTensor 分派的 shape env 设置。
`ConvertIntKey`
`CallMethodKey`
`PropagateUnbackedSymInts`
`DivideByKey`
`InnerTensorKey`
`专业化`	此类用于多图编译上下文，在这些上下文中，我们会生成多个专门化的图并在运行时分派到适当的图。
`hint_int`	检索一个整数的提示（基于运行时观察到的底层真实值）。
`is_concrete_int`	用于检查 SymInt 中底层对象是否为具体值的工具函数。
`is_concrete_bool`	用于检查 SymBool 中底层对象是否为具体值的工具函数。
`is_concrete_float`	用于检查 SymInt 中底层对象是否为具体值的工具函数。
`has_free_symbols`	bool(free_symbols(val)) 的更快版本
`has_free_unbacked_symbols`	bool(free_unbacked_symbols(val)) 的更快版本
`guard_or_true`	尝试对 a 进行 guard，如果遇到数据依赖错误，则直接返回 true。
`guard_or_false`	尝试对 a 进行 guard，如果遇到数据依赖错误，则直接返回 false。
`guard_size_oblivious`	以大小无关的方式对符号布尔表达式执行 guard。
`sym_and`	与 and 类似，但用于符号表达式，不进行布尔值转换。
`sym_eq`	类似于 ==，但当在列表/元组上运行时，它将递归地测试相等性并使用 sym_and 将结果连接起来，而无需 guarding。
`sym_or`	与 or 类似，但用于符号表达式，不进行布尔值转换。
`constrain_range`	应用约束，使传入的 SymInt 位于 min-max 包含-包含之间，而不在 SymInt 上引入 guard（意味着它可以用于未支持的 SymInts）。
`constrain_unify`	给定两个 SymInts，约束它们必须相等。
`canonicalize_bool_expr`	规范化布尔表达式，将其转换为 lt / le 不等式，并将所有非常量项移到右侧。
`statically_known_true`	如果 x 可以简化为常量且为 true，则返回 True。
`statically_known_false`	如果 x 可以简化为常量且为 False，则返回 True。
`has_static_value`	用户代码友好的工具函数，用于检查值是静态的还是动态的。
`lru_cache`
`check_consistent`	测试两个“元”值（通常是 Tensor 或 SymInt）是否具有相同的值，例如，在重新跟踪后。
`compute_unbacked_bindings`	在运行 fake tensor 传播并产生 example_value 结果后，遍历 example_value 以查找新绑定的未支持符号，并记录其路径以供将来使用。
`rebind_unbacked`	假设我们正在重新跟踪先前具有 fake tensor 传播（因此有未支持的 SymInts）的现有 FX 图。
`resolve_unbacked_bindings`	当我们进行 fake tensor 传播时，我们通常会分配新的未支持的 symints。
`is_accessor_node`	用于确定节点是否试图访问符号整数（如 size、stride、offset 或 item）的辅助函数。
`cast_symbool_to_symint_guardless`	将 SymBool 或 bool 转换为 SymInt 或 int，而无需引入 guard。
`create_contiguous`
`error`
`eval_guards`
`eval_is_non_overlapping_and_dense`
`find_symbol_binding_fx_nodes`	在 FX 图中查找绑定 sympy 符号的所有节点。
`free_symbols`	递归地收集值中的所有自由符号。
`free_unbacked_symbols`	类似于 free_symbols，但经过过滤，仅报告未支持的符号
`fx_placeholder_targets`
`fx_placeholder_vals`
`guard_bool`
`guard_float`
`guard_int`
`guard_scalar`	Guard 一个标量值，它可以是符号的或具体的布尔值、整数或浮点数。
`has_hint`
`has_symbolic_sizes_strides`
`is_nested_int`
`is_symbol_binding_fx_node`	检查给定的 FX 节点是否是符号绑定节点。
`is_symbolic`
`expect_true`
`log_lru_cache_stats`

torch.fx.experimental.proxy_tensor#

`make_fx`	给定一个函数 f，返回一个新的函数，当使用 f 的有效参数执行此新函数时，它将返回一个表示在执行过程中执行的操作集的 FX GraphModule。
`handle_sym_dispatch`	调用当前活动的代理跟踪模式，对操作这些参数的函数执行 SymInt/SymFloat/SymBool 分派跟踪。
`get_proxy_mode`	返回当前活动的代理跟踪模式，如果当前未跟踪，则返回 None。
`maybe_enable_thunkify`	在此上下文管理器中，如果您正在进行 make_fx 跟踪，我们将对所有 SymNode 计算进行 thunkify，并避免将其跟踪到图中，除非它实际上是必需的。
`maybe_disable_thunkify`	在上下文中，禁用 thunkification。
`thunkify`	延迟 f 的计算，直到再次调用它，并缓存结果
`track_tensor`
`track_tensor_tree`
`decompose`
`disable_autocast_cache`
`disable_proxy_modes_tracing`
`extract_val`
`fake_signature`	FX 对可变参数感到困惑，解除困惑
`fetch_object_proxy`
`fetch_sym_proxy`
`has_proxy_slot`
`is_sym_node`
`maybe_handle_decomp`
`proxy_call`
`set_meta`
`set_original_aten_op`
`set_proxy_slot`
`snapshot_fake`

torch.fx.experimental.unification.unification_tools#

`assoc`	返回一个带有新的键值对的新字典
`assoc_in`	返回一个带有新的、可能嵌套的键值对的新字典
`dissoc`	返回一个删除了给定键的新字典。
`first`	序列中的第一个元素
`keyfilter`	按键过滤字典中的项
`keymap`	将函数应用于字典的键
`merge`	合并一系列字典
`merge_with`	合并字典并对组合后的值应用函数
`update_in`	更新（潜在）嵌套字典中的值
`valfilter`	按值过滤字典中的项
`valmap`	将函数应用于字典的值
`itemfilter`	按项过滤字典中的项
`itemmap`	将函数应用于字典的项

torch.fx.experimental.migrate_gradual_types.transform_to_z3#

`transform_algebraic_expression`	将代数表达式转换为 z3 格式：param expr：表达式是维度变量还是代数表达式
`transform_all_constraints`	给定一个跟踪，生成约束并将它们转换为 z3 格式
`transform_all_constraints_trace_time`	获取一个节点和一个图，生成两组约束。
`transform_dimension`	根据我们的方案，将维度变量或数字转换为一个元组：param dimension：要转换的维度：param counter：跟踪变量
`transform_to_z3`
`transform_var`	将张量变量转换为 z3 可理解的格式：param tensor：张量变量或可能具有可变维度的张量类型

torch.fx.experimental#

torch.fx.experimental.sym_node#

torch.fx.experimental.symbolic_shapes#

torch.fx.experimental.proxy_tensor#

torch.fx.experimental.unification.unification_tools#

torch.fx.experimental.migrate_gradual_types.transform_to_z3#

文档

教程

资源