BasePruningMethod#
- class torch.nn.utils.prune.BasePruningMethod[source]#
创建新剪枝技术的抽象基类。
提供了一个用于自定义的框架，需要覆盖诸如
compute_mask()和apply()等方法。- classmethod apply(module, name, *args, importance_scores=None, **kwargs)[source]#
动态添加剪枝和张量的重参数化。
添加前向预钩子以实现动态剪枝，并将张量重参数化为原始张量和剪枝掩码。
- 参数
module (nn.Module) – 包含要剪枝张量的模块
name (str) –
module中的参数名称，剪枝将作用于此参数。args – 传递给
BasePruningMethod子类的参数importance_scores (torch.Tensor) – 用于计算剪枝掩码的重要性分数张量（与要剪枝的模块参数形状相同）。该张量中的值指示被剪枝参数中相应元素的importance。如果未指定或为 None，则将使用参数本身。
kwargs – 传递给
BasePruningMethod子类的关键字参数
- apply_mask(module)[source]#
简单处理被剪枝参数与生成的掩码之间的乘法。
从模块中获取掩码和原始张量，并返回张量的剪枝版本。
- 参数
module (nn.Module) – 包含要剪枝张量的模块
- 返回
剪枝后的张量
- 返回类型
pruned_tensor (torch.Tensor)
- abstract compute_mask(t, default_mask)[source]#
计算并返回输入张量
t的掩码。从基础
default_mask（如果张量尚未被剪枝，则应为全1掩码）开始，根据特定的剪枝方法生成要应用于default_mask之上的随机掩码。- 参数
t (torch.Tensor) – 代表要剪枝的
prune. (参数的) – 重要性分数。 (与剪枝参数维度相同)。
default_mask (torch.Tensor) – 上一次剪枝的基础掩码
iterations –
is (需要在新掩码应用后遵守的) –
t. (维度与) – 相同。
- 返回
应用于
t的掩码，维度与t相同- 返回类型
mask (torch.Tensor)
- prune(t, default_mask=None, importance_scores=None)[source]#
计算并返回输入张量
t的剪枝版本。根据
compute_mask()中指定的剪枝规则。- 参数
t (torch.Tensor) – 要剪枝的张量（维度与
default_mask相同）。importance_scores (torch.Tensor) – 重要性分数张量（形状与
t相同），用于计算剪枝t的掩码。该张量中的值指示正在被剪枝的t中相应元素的importance。如果未指定或为 None，则将使用张量t本身。default_mask (torch.Tensor, optional) – 上一次剪枝迭代的掩码（如果有）。在确定剪枝应作用于张量的哪个部分时考虑。如果为 None，则默认为全1掩码。
- 返回
张量
t的修剪版本。