评价此页

Conv2d#

class torch.nn.modules.conv.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros', device=None, dtype=None)[源代码]#

在由多个输入平面组成的输入信号上应用二维卷积。

在最简单的情况下,具有输入尺寸 (N,Cin,H,W)(N, C_{\text{in}}, H, W) 和输出 (N,Cout,Hout,Wout)(N, C_{\text{out}}, H_{\text{out}}, W_{\text{out}}) 的输出值可以精确描述为

out(Ni,Coutj)=bias(Coutj)+k=0Cin1weight(Coutj,k)input(Ni,k)\text{out}(N_i, C_{\text{out}_j}) = \text{bias}(C_{\text{out}_j}) + \sum_{k = 0}^{C_{\text{in}} - 1} \text{weight}(C_{\text{out}_j}, k) \star \text{input}(N_i, k)

其中 \star 是有效的二维 互相关 算子,NN 是批处理大小,CC 表示通道数,HH 是输入平面的像素高度,WW 是像素宽度。

此模块支持 TensorFloat32

在某些 ROCm 设备上,当使用 float16 输入时,此模块将对反向传播使用不同精度

  • stride 控制互相关操作的步长,可以是一个数字或一个元组。

  • padding 控制应用于输入的填充量。它可以是字符串 {'valid', 'same'},或者是一个整数/整数元组,表示在两侧应用的隐式填充量。

  • dilation 控制核点之间的间距;也称为空洞卷积算法。这个概念比较难描述,但 这个链接 有一个 dilation 作用的可视化。

  • groups 控制输入和输出之间的连接。 in_channelsout_channels 都必须能被 groups 整除。例如,

    • 当 groups=1 时,所有输入都会与所有输出进行卷积。

    • 当 groups=2 时,操作相当于有两个并排的卷积层,每个层看到一半的输入通道并产生一半的输出通道,然后将两者连接起来。

    • 当 groups = in_channels 时,每个输入通道与自身的滤波器组(大小为 out_channelsin_channels\frac{\text{out\_channels}}{\text{in\_channels}})进行卷积。

参数 kernel_sizestridepaddingdilation 可以是

  • 单个 int – 在这种情况下,高度和宽度维度使用相同的值

  • 两个 int 的 tuple – 在这种情况下,第一个 int 用于高度维度,第二个 int 用于宽度维度

注意

groups == in_channelsout_channels == K * in_channels(其中 K 是一个正整数)时,此操作也称为“深度可分离卷积”。

换句话说,对于尺寸为 (N,Cin,Lin)(N, C_{in}, L_{in}) 的输入,可以使用参数 (Cin=Cin,Cout=Cin×K,...,groups=Cin)(C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in}) 执行深度卷积,其中 K 是深度乘数。

注意

在某些情况下,当在 CUDA 设备上使用张量并利用 CuDNN 时,此算子可能会选择一个非确定性算法来提高性能。如果这不可取,你可以尝试将操作设置为确定性的(可能以性能为代价),方法是设置 torch.backends.cudnn.deterministic = True。有关更多信息,请参阅 可复现性

注意

padding='valid' 等同于不填充。 padding='same' 会填充输入,使输出具有与输入相同的形状。但是,此模式不支持任何步幅值大于 1 的情况。

注意

此模块支持复杂数据类型,即 complex32, complex64, complex128

参数
  • in_channels (int) – 输入图像中的通道数

  • out_channels (int) – 卷积产生的通道数

  • kernel_size (inttuple) – 卷积核的大小

  • stride (inttuple, 可选) – 卷积的步幅。默认为:1

  • padding (int, tuplestr, 可选) – 添加到输入所有四边的填充。默认值:0

  • dilation (inttuple, 可选) – 核元素之间的间距。默认为:1

  • groups (int, 可选) – 从输入通道到输出通道的阻塞连接数。默认为:1

  • bias (bool, 可选) – 如果为 True,则向输出添加可学习的偏置。默认为:True

  • padding_mode (str, 可选) – 'zeros''reflect''replicate''circular'。默认为:'zeros'

形状
  • 输入: (N,Cin,Hin,Win)(N, C_{in}, H_{in}, W_{in})(Cin,Hin,Win)(C_{in}, H_{in}, W_{in})

  • 输出: (N,Cout,Hout,Wout)(N, C_{out}, H_{out}, W_{out})(Cout,Hout,Wout)(C_{out}, H_{out}, W_{out}),其中

    Hout=Hin+2×padding[0]dilation[0]×(kernel_size[0]1)1stride[0]+1H_{out} = \left\lfloor\frac{H_{in} + 2 \times \text{padding}[0] - \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) - 1}{\text{stride}[0]} + 1\right\rfloor
    Wout=Win+2×padding[1]dilation[1]×(kernel_size[1]1)1stride[1]+1W_{out} = \left\lfloor\frac{W_{in} + 2 \times \text{padding}[1] - \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) - 1}{\text{stride}[1]} + 1\right\rfloor
变量
  • weight (Tensor) – 模块的可学习权重,形状为 (out_channels,in_channelsgroups,(\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}}, kernel_size[0],kernel_size[1])\text{kernel\_size[0]}, \text{kernel\_size[1]})。这些权重的采样值来自 U(k,k)\mathcal{U}(-\sqrt{k}, \sqrt{k}),其中 k=groupsCini=01kernel_size[i]k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]}

  • bias (Tensor) – 模块的可学习偏置,形状为 (out_channels)。如果 biasTrue,则这些权重的采样值来自 U(k,k)\mathcal{U}(-\sqrt{k}, \sqrt{k}),其中 k=groupsCini=01kernel_size[i]k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]}

示例

>>> # With square kernels and equal stride
>>> m = nn.Conv2d(16, 33, 3, stride=2)
>>> # non-square kernels and unequal stride and with padding
>>> m = nn.Conv2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2))
>>> # non-square kernels and unequal stride and with padding and dilation
>>> m = nn.Conv2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2), dilation=(3, 1))
>>> input = torch.randn(20, 16, 50, 100)
>>> output = m(input)