评价此页

Dropout#

class torch.nn.Dropout(p=0.5, inplace=False)[源代码]#

在训练期间,以概率 p 随机将输入张量的一些元素归零。

归零的元素在每次前向调用时独立选择,并从伯努利分布中采样。

每个通道在每次前向调用时都将独立归零。

正如论文 通过阻止特征检测器协同适应来改进神经网络 中所述,这已被证明是一种有效的正则化和防止神经元协同适应的技术。

此外,在训练期间,输出按因子 11p\frac{1}{1-p} 进行缩放。这意味着在评估期间,模块只计算一个恒等函数。

参数
  • p (float) – 元素被归零的概率。默认值:0.5

  • inplace (bool) – 如果设置为 True,将原地执行此操作。默认值:False

形状
  • 输入:()(*)。输入可以是任何形状

  • 输出:()(*)。输出与输入形状相同

示例

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)