RandomStructured#

class torch.nn.utils.prune.RandomStructured(amount, dim=-1)[source]#

随机剪枝张量中的整个（当前未剪枝的）通道。

参数

amount (int 或 float) – 要剪枝的参数数量。如果为 float，则应介于 0.0 和 1.0 之间，表示要剪枝的参数的比例。如果为 int，则表示要剪枝的参数的绝对数量。
dim (int, 可选) – 定义要剪枝通道的维度索引。默认值：-1。

classmethod apply(module, name, amount, dim=-1)[source]#

动态添加剪枝和原始张量与剪枝掩码之间的参数化。

添加了动态剪枝的前向预钩子，以及张量相对于原始张量和剪枝掩码的参数化。

参数

module (nn.Module) – 包含要剪枝张量的模块
name (str) – module 中剪枝将作用的参数名称。
amount (int 或 float) – 要剪枝的参数数量。如果为 float，则应介于 0.0 和 1.0 之间，表示要剪枝的参数的比例。如果为 int，则表示要剪枝的参数的绝对数量。
dim (int, 可选) – 定义要剪枝通道的维度索引。默认值：-1。

apply_mask(module)[source]#

简单地处理被剪枝的参数与生成的掩码之间的乘法。

从模块中获取掩码和原始张量，并返回张量的剪枝版本。

compute_mask(t, default_mask)[source]#

计算并返回输入张量 t 的掩码。

从基础的 default_mask（如果张量尚未剪枝，则应为全为 1 的掩码）开始，生成一个随机掩码，通过随机地将张量指定维度上的通道置零，将其应用于 default_mask 之上。

参数

返回

应用于 t 的掩码，维度与 t 相同

返回类型

mask (torch.Tensor)

引发

IndexError – 如果 self.dim >= len(t.shape)

prune(t, default_mask=None, importance_scores=None)[源代码]#

计算并返回输入张量 t 的剪枝版本。

根据 compute_mask() 中指定的剪枝规则。

参数

t (torch.Tensor) – 要剪枝的张量（维度与 default_mask 相同）。
importance_scores (torch.Tensor) – 重要性得分张量（形状与 t 相同），用于计算剪枝 t 的掩码。此张量中的值指示被剪枝的 t 中对应元素的 M 重要性。如果未指定或为 None，则将使用张量 t 代替。
default_mask (torch.Tensor, optional) – 前一个剪枝迭代的掩码（如果存在）。在确定剪枝应作用于张量的哪个部分时需要考虑。如果为 None，则默认为全 1 的掩码。

返回

张量 t 的修剪版本。

remove(module)[源代码]#

从模块中移除修剪重参数化。

被剪枝的名为 name 的参数将永久保持剪枝状态，名为 name+'_orig' 的参数将从参数列表中移除。同样，名为 name+'_mask' 的缓冲区将从缓冲区中移除。

注意

修剪本身**不会**被撤销或恢复！

文档