RReLU

class torch.nn.modules.activation.RReLU(lower=0.125, upper=0.3333333333333333, inplace=False)

逐元素应用随机的 Leaky Rectified Linear Unit 函数。

方法描述于论文：《Convolutional Network 中 Rectified 激活的经验评估》。

该函数定义为

$$\text{RReLU}(x) = \begin{cases} x & \text{if } x \geq 0 \\ ax & \text{ otherwise } \end{cases}$$

其中 $a$ 在训练期间从均匀分布 $\mathcal{U}(\text{lower}, \text{upper})$ 中随机采样，而在评估期间 $a$ 被固定为 $a = \frac{\text{lower} + \text{upper}}{2}$.

参数

• lower (float) – 均匀分布的下界。默认值：$\frac{1}{8}$

• upper (float) – 均匀分布的上界。默认值：$\frac{1}{3}$

• inplace (bool) – 可以选择是否就地执行操作。默认值：False

形状

• 输入： $(*)$，其中 $*$ 表示任意数量的维度。

• 输出： $(*)$，形状与输入相同。

示例

>>> m = nn.RReLU(0.1, 0.3)
>>> input = torch.randn(2)
>>> output = m(input)

extra_repr()

返回模块的额外表示。

返回类型

str

forward(input)

执行前向传播。

返回类型

张量