SELU

class torch.nn.modules.activation.SELU(inplace=False)

逐元素应用 SELU 函数。

$$\text{SELU}(x) = \text{scale} * (\max(0,x) + \min(0, \alpha * (\exp(x) - 1)))$$

其中 $\alpha = 1.6732632423543772848170429916717$ 和 $\text{scale} = 1.0507009873554804934193349852946$。

警告

在使用 kaiming_normal 或 kaiming_normal_ 进行初始化时，应使用 nonlinearity='linear' 而非 nonlinearity='selu'，以实现 自归一化神经网络。更多信息请参阅 torch.nn.init.calculate_gain()。

更多细节可在论文 自归一化神经网络 中找到。

参数

inplace (bool, optional) – 是否可以就地执行操作。默认为： False

形状

• 输入： $(*)$，其中 $*$ 表示任意数量的维度。

• 输出： $(*)$，形状与输入相同。

示例

>>> m = nn.SELU()
>>> input = torch.randn(2)
>>> output = m(input)

extra_repr()

返回模块的额外表示。

返回类型

str

forward(input)

执行前向传播。

返回类型

张量