RandomStructured#

class torch.nn.utils.prune.RandomStructured(amount, dim=-1)[source]#

随机修剪张量中的整个（当前未修剪的）通道。

参数

amount (int 或 float) – 要剪枝的参数数量。如果是 float，则应介于 0.0 和 1.0 之间，表示要剪枝的参数的比例。如果是 int，则表示要剪枝的参数的绝对数量。
dim (int, optional) – 定义要修剪通道的维度索引。默认值：-1。

classmethod apply(module, name, amount, dim=-1)[source]#

Add pruning on the fly and reparametrization of a tensor.

Adds the forward pre-hook that enables pruning on the fly and the reparametrization of a tensor in terms of the original tensor and the pruning mask.

参数

module (nn.Module) – module containing the tensor to prune
name (str) – 在 module 中执行剪枝操作的参数名称。
amount (int 或 float) – 要剪枝的参数数量。如果是 float，则应介于 0.0 和 1.0 之间，表示要剪枝的参数的比例。如果是 int，则表示要剪枝的参数的绝对数量。
dim (int, optional) – 定义要修剪通道的维度索引。默认值：-1。

apply_mask(module)[source]#

Simply handles the multiplication between the parameter being pruned and the generated mask.

Fetches the mask and the original tensor from the module and returns the pruned version of the tensor.

compute_mask(t, default_mask)[source]#

计算并返回输入张量 t 的掩码。

从基础 default_mask（如果张量尚未被修剪，则应为全 1 的掩码）开始，生成一个随机掩码，该掩码将应用于 default_mask 之上，通过在张量的指定维度上随机将通道置零。

参数

返回

应用于 t 的掩码，维度与 t 相同

返回类型

mask (torch.Tensor)

引发

IndexError – 如果 self.dim >= len(t.shape)

prune(t, default_mask=None, importance_scores=None)[source]#

Compute and returns a pruned version of input tensor t.

根据 compute_mask() 中指定的修剪规则进行操作。

参数

t (torch.Tensor) – 要剪枝的张量（维度与 default_mask 相同）。
importance_scores (torch.Tensor) – 重要性分数张量（与 t 形状相同），用于计算剪枝 t 的掩码。此张量中的值指示正在剪枝的 t 中相应元素的 গুরুত্ব。如果未指定或为 None，则将使用张量 t 本身。
default_mask (torch.Tensor, optional) – 前一个剪枝迭代的掩码（如果有）。在确定剪枝应作用于张量的哪个部分时需要考虑。如果为 None，则默认为一个全为 1 的掩码。

返回

张量 t 的修剪版本。

remove(module)[source]#

从模块中移除修剪重参数化。

名为 name 的已剪枝参数将永久保持剪枝状态，名为 name+'_orig' 的参数将从参数列表中移除。类似地，名为 name+'_mask' 的缓冲区也将从缓冲区中移除。

注意

修剪本身**不会**被撤销或恢复！

文档