torch.func.linearize#
- torch.func.linearize(func, *primals)[source]#
返回
func
在primals
处的取值以及在primals
处的线性近似。- 参数
func (Callable) – 一个接受一个或多个参数的 Python 函数。
primals (Tensors) –
func
的位置参数,必须全部是 Tensor。这些是函数线性近似的点。
- 返回
返回一个
(output, jvp_fn)
元组,包含func
应用于primals
后的输出,以及一个计算func
在primals
处求值的 jvp 的函数。- 返回类型
如果需要多次在
primals
处计算 jvp,则 linearize 会很有用。然而,为了实现这一点,linearize 会保存中间计算,并且比直接应用 jvp 有更高的内存需求。因此,如果所有tangents
都已知,则计算 vmap(jvp) 而不是使用 linearize 可能更有效。注意
linearize 会评估
func
两次。如果需要单次评估的实现,请提交 issue。示例
>>> import torch >>> from torch.func import linearize >>> def fn(x): ... return x.sin() ... >>> output, jvp_fn = linearize(fn, torch.zeros(3, 3)) >>> jvp_fn(torch.ones(3, 3)) tensor([[1., 1., 1.], [1., 1., 1.], [1., 1., 1.]]) >>>