Dropout#
- class torch.nn.Dropout(p=0.5, inplace=False)[source]#
在训练期间,以概率
p
随机将输入张量中的一些元素归零。归零的元素是针对每次前向调用独立选择的,并从伯努利分布中采样。
每个通道将在每次前向调用时独立归零。
这已被证明是一种有效的正则化技术,可以防止神经元过早协同适应,如论文 Improving neural networks by preventing co-adaptation of feature detectors 所述。
此外,输出在训练期间会乘以因子 。这意味着在评估期间,该模块仅计算恒等函数。
- 形状
输入:。输入可以是任何形状
输出:。输出与输入具有相同的形状
示例
>>> m = nn.Dropout(p=0.2) >>> input = torch.randn(20, 16) >>> output = m(input)