torch.autograd.functional.jvp#
- torch.autograd.functional.jvp(func, inputs, v=None, create_graph=False, strict=False)[source]#
计算给定函数在输入点处的雅可比矩阵与向量
v
的点积。- 参数
func (function) – 一个 Python 函数,接受 Tensor 输入并返回一个 Tensor 元组或一个 Tensor。
inputs (tuple of Tensors 或 Tensor) – 函数
func
的输入。v (tuple of Tensors 或 Tensor) – 用于计算雅可比向量积的向量。必须与
func
的输入大小相同。当func
的输入包含单个元素时,此参数是可选的(如果未提供),它将被设置为一个包含单个1
的Tensor。create_graph (bool, optional) – 如果为
True
,则输出和结果都将在可微的情况下计算。请注意,当strict
为False
时,结果不能要求梯度或与输入断开连接。默认为False
。strict (bool, optional) – 如果为
True
,当检测到存在某个输入使得所有输出都独立于它时,将引发错误。如果为False
,则对于此类输入,我们将返回一个零Tensor作为jvp,这在数学上是期望的值。默认为False
。
- 返回
- 包含以下内容的元组
func_output (tuple of Tensors or Tensor):
func(inputs)
的输出jvp (tuple of Tensors or Tensor): 与输出形状相同的点积结果。
- 返回类型
output (tuple)
注意
autograd.functional.jvp
通过使用后向的后向(有时称为双后向技巧)来计算jvp。这不是计算jvp的最有效方法。请考虑使用torch.func.jvp()
或低级前向模式AD API。示例
>>> def exp_reducer(x): ... return x.exp().sum(dim=1) >>> inputs = torch.rand(4, 4) >>> v = torch.ones(4, 4) >>> jvp(exp_reducer, inputs, v) (tensor([6.3090, 4.6742, 7.9114, 8.2106]), tensor([6.3090, 4.6742, 7.9114, 8.2106]))
>>> jvp(exp_reducer, inputs, v, create_graph=True) (tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SumBackward1>), tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SqueezeBackward1>))
>>> def adder(x, y): ... return 2 * x + 3 * y >>> inputs = (torch.rand(2), torch.rand(2)) >>> v = (torch.ones(2), torch.ones(2)) >>> jvp(adder, inputs, v) (tensor([2.2399, 2.5005]), tensor([5., 5.]))