评价此页

torch.func.linearize#

torch.func.linearize(func, *primals)[source]#

返回 funcprimals 处的取值以及在 primals 处的线性近似。

参数
  • func (Callable) – 一个接受一个或多个参数的 Python 函数。

  • primals (Tensors) – func 的位置参数,必须全部是 Tensor。这些是函数线性近似的点。

返回

返回一个 (output, jvp_fn) 元组,包含 func 应用于 primals 后的输出,以及一个计算 funcprimals 处求值的 jvp 的函数。

返回类型

tuple[Any, Callable]

如果需要多次在 primals 处计算 jvp,则 linearize 会很有用。然而,为了实现这一点,linearize 会保存中间计算,并且比直接应用 jvp 有更高的内存需求。因此,如果所有 tangents 都已知,则计算 vmap(jvp) 而不是使用 linearize 可能更有效。

注意

linearize 会评估 func 两次。如果需要单次评估的实现,请提交 issue。

示例

>>> import torch
>>> from torch.func import linearize
>>> def fn(x):
...     return x.sin()
...
>>> output, jvp_fn = linearize(fn, torch.zeros(3, 3))
>>> jvp_fn(torch.ones(3, 3))
tensor([[1., 1., 1.],
        [1., 1., 1.],
        [1., 1., 1.]])
>>>