评价此页

torch.nn.utils.prune.ln_structured#

torch.nn.utils.prune.ln_structured(module, name, amount, n, dim, importance_scores=None)[源代码]#

通过移除指定维度上 Ln-范数最低的通道来修剪张量。

通过移除指定 dim 维度上 Ln-范数最低的指定 amount 数量的(当前未被修剪的)通道,来修剪 module 中名为 name 的参数对应的张量。通过以下方式就地修改模块(并返回修改后的模块):

  1. 添加一个名为 name+'_mask' 的命名缓冲区,对应于剪枝方法应用于参数 name 的二值掩码。

  2. 用剪枝后的版本替换参数 name,同时将原始(未剪枝)参数存储在一个名为 name+'_orig' 的新参数中。

参数
  • module (nn.Module) – module containing the tensor to prune

  • name (str) – 在 module 中执行剪枝操作的参数名称。

  • amount (intfloat) – 要剪枝的参数数量。如果是 float,则应介于 0.0 和 1.0 之间,表示要剪枝的参数的比例。如果是 int,则表示要剪枝的参数的绝对数量。

  • n (int, float, inf, -inf, 'fro', 'nuc') – 有效的 p 参数值请参阅 torch.norm() 的文档。

  • dim (int) – 定义要修剪通道的维度的索引。

  • importance_scores (torch.Tensor) – 用于计算修剪掩码的重要性分数张量(形状与模块参数相同)。此张量中的值表示要修剪的参数中相应元素的重要性。如果未指定或为 None,则将使用模块参数本身。

返回

模块的修改(即剪枝)后的版本

返回类型

module (nn.Module)

示例

>>> from torch.nn.utils import prune
>>> m = prune.ln_structured(
...     nn.Conv2d(5, 3, 2), "weight", amount=0.3, dim=1, n=float("-inf")
... )