Dropout#
- class torch.nn.Dropout(p=0.5, inplace=False)[源代码]#
在训练期间,以概率
p
随机将输入张量的一些元素归零。归零的元素在每次前向调用时独立选择,并从伯努利分布中采样。
每个通道在每次前向调用时都将独立归零。
正如论文 通过阻止特征检测器协同适应来改进神经网络 中所述,这已被证明是一种有效的正则化和防止神经元协同适应的技术。
此外,在训练期间,输出按因子 进行缩放。这意味着在评估期间,模块只计算一个恒等函数。
- 形状
输入:。输入可以是任何形状
输出:。输出与输入形状相同
示例
>>> m = nn.Dropout(p=0.2) >>> input = torch.randn(20, 16) >>> output = m(input)