torch.autograd.functional.jvp

torch.autograd.functional.jvp(func, inputs, v=None, create_graph=False, strict=False)

计算给定函数在输入点处雅可比矩阵与向量 v 的点积。

参数

• func (function) – 一个 Python 函数，接受 Tensor 输入并返回一个 Tensor 元组或一个 Tensor。

• inputs (tuple of Tensors 或 Tensor) – 函数 func 的输入。

• v (tuple of Tensors 或 Tensor) – 计算雅可比向量积的向量。必须与 func 的输入大小相同。当 func 的输入包含单个元素时，此参数是可选的，(如果未提供) 将被设置为包含单个 1 的 Tensor。

• create_graph (bool, 可选) – 如果为 True，则输出和结果都将以可微分的方式计算。请注意，当 strict 为 False 时，结果不能要求梯度或与输入断开连接。默认为 False。

• strict (bool, optional) – 如果为 True，当检测到存在某个输入使得所有输出都与其无关时，将引发错误。如果为 False，我们将为该输入返回一个零 Tensor 作为 jvp，这是预期的数学值。默认为 False。

返回

包含以下内容的元组

func_output (tuple of Tensors or Tensor): func(inputs) 的输出

jvp (tuple of Tensors 或 Tensor): 与输出形状相同的点积结果。

返回类型

output (tuple)

注意

autograd.functional.jvp 通过使用 backward 的 backward (有时称为双 backward 技巧) 来计算 jvp。这不是计算 jvp 的最有效方法。请考虑改用 torch.func.jvp() 或 低级前向模式 AD API。

示例

>>> def exp_reducer(x):
...     return x.exp().sum(dim=1)
>>> inputs = torch.rand(4, 4)
>>> v = torch.ones(4, 4)
>>> jvp(exp_reducer, inputs, v)
(tensor([6.3090, 4.6742, 7.9114, 8.2106]),
 tensor([6.3090, 4.6742, 7.9114, 8.2106]))

>>> jvp(exp_reducer, inputs, v, create_graph=True)
(tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SumBackward1>),
 tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SqueezeBackward1>))

>>> def adder(x, y):
...     return 2 * x + 3 * y
>>> inputs = (torch.rand(2), torch.rand(2))
>>> v = (torch.ones(2), torch.ones(2))
>>> jvp(adder, inputs, v)
(tensor([2.2399, 2.5005]),
 tensor([5., 5.]))