评价此页

torch.nn.utils.prune.l1_unstructured#

torch.nn.utils.prune.l1_unstructured(module, name, amount, importance_scores=None)[source]#

通过移除 L1-范数最低的单元来修剪张量。

通过移除指定 amount 的(当前未被修剪的)具有最低 L1-范数的单元,来修剪 module 中名为 name 的参数对应的张量。通过以下方式修改 module(并返回修改后的 module):

  1. 添加一个名为 name+'_mask' 的命名缓冲区,对应于剪枝方法应用于参数 name 的二值掩码。

  2. 用剪枝后的版本替换参数 name,同时将原始(未剪枝)参数存储在一个名为 name+'_orig' 的新参数中。

参数
  • module (nn.Module) – module containing the tensor to prune

  • name (str) – 在 module 中执行剪枝操作的参数名称。

  • amount (intfloat) – 要剪枝的参数数量。如果是 float,则应介于 0.0 和 1.0 之间,表示要剪枝的参数的比例。如果是 int,则表示要剪枝的参数的绝对数量。

  • importance_scores (torch.Tensor) – 用于计算修剪掩码的重要性分数张量(形状与模块参数相同)。此张量中的值表示要修剪的参数中相应元素的重要性。如果未指定或为 None,则将使用模块参数本身。

返回

模块的修改(即剪枝)后的版本

返回类型

module (nn.Module)

示例

>>> m = prune.l1_unstructured(nn.Linear(2, 3), "weight", amount=0.2)
>>> m.state_dict().keys()
odict_keys(['bias', 'weight_orig', 'weight_mask'])