Dropout

class torch.nn.modules.dropout.Dropout(p=0.5, inplace=False)

在训练期间，以概率 p 随机将输入张量中的一些元素归零。

在每次前向调用时，独立地从伯努利分布中采样选择要归零的元素。

每个通道在每次前向调用时都会独立地归零。

正如论文 Improving neural networks by preventing co-adaptation of feature detectors 中所述，这已被证明是正则化和防止神经元协同适应的有效技术。

此外，在训练期间，输出会乘以一个因子 $\frac{1}{1-p}$ 。这意味着在评估期间，该模块仅计算恒等函数。

参数

• p (float) – 元素被归零的概率。默认值：0.5

• inplace (bool) – 如果设置为 True，则该操作将就地执行。默认值：False

形状

• 输入：$(*)$。输入可以是任何形状

• 输出：$(*)$。输出与输入具有相同的形状

示例

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)

forward(input)

执行前向传播。

返回类型

张量