在由多个输入平面组成的输入信号上应用 2D 卷积。
在最简单的情况下,输入大小为 ( N , C in , H , W ) (N, C_{\text{in}}, H, W) ( N , C in , H , W ) 和输出大小为 ( N , C out , H out , W out ) (N, C_{\text{out}}, H_{\text{out}}, W_{\text{out}}) ( N , C out , H out , W out ) 的层的输出值可以精确描述为
out ( N i , C out j ) = bias ( C out j ) + ∑ k = 0 C in − 1 weight ( C out j , k ) ⋆ input ( N i , k ) \text{out}(N_i, C_{\text{out}_j}) = \text{bias}(C_{\text{out}_j}) + \sum_{k = 0}^{C_{\text{in}} - 1} \text{weight}(C_{\text{out}_j}, k) \star \text{input}(N_i, k) out ( N i , C out j ) = bias ( C out j ) + k = 0 ∑ C in − 1 weight ( C out j , k ) ⋆ input ( N i , k ) 其中 ⋆ \star ⋆ 是有效的 2D 互相关 运算符,N N N 是批量大小,C C C 表示通道数,H H H 是输入平面像素的高度,W W W 是像素宽度。
此模块支持 TensorFloat32 。
在某些 ROCm 设备上,当使用 float16 输入时,此模块将对反向传播使用不同精度 。
stride
控制互相关的步长,可以是单个数字或元组。
padding
控制应用于输入的填充量。它可以是字符串 {'valid', 'same'},也可以是整数或整数元组,表示应用于两侧的隐式填充量。
dilation
控制内核点之间的间距;也称为 à trous 算法。这很难描述,但此 链接 很好地可视化了 dilation
的作用。
groups
控制输入和输出之间的连接。in_channels
和 out_channels
都必须能被 groups
整除。例如,
当 groups=1 时,所有输入都会与所有输出进行卷积。
当 groups=2 时,操作相当于有两个并排的卷积层,每个层看到一半的输入通道并产生一半的输出通道,然后将两者连接起来。
当 groups = in_channels
时,每个输入通道都会与其自己的滤波器组(大小为 out_channels in_channels \frac{\text{out\_channels}}{\text{in\_channels}} in_channels out_channels )进行卷积。
参数 kernel_size
、stride
、padding
、dilation
可以是
注意
当 groups == in_channels 且 out_channels == K * in_channels (其中 K 是一个正整数)时,此操作也称为“深度可分离卷积”。
换句话说,对于大小为 ( N , C i n , L i n ) (N, C_{in}, L_{in}) ( N , C in , L in ) 的输入,可以使用参数 ( C in = C in , C out = C in × K , . . . , groups = C in ) (C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in}) ( C in = C in , C out = C in × K , ... , groups = C in ) 执行深度卷积,深度乘数为 K 。
注意
在某些情况下,当给定 CUDA 设备上的张量并使用 CuDNN 时,此操作可能会选择非确定性算法以提高性能。如果不需要此行为,您可以尝试通过设置 torch.backends.cudnn.deterministic = True
使操作确定性(可能会牺牲性能)。有关更多信息,请参阅 可复现性 。
注意
padding='valid'
与不进行填充相同。padding='same'
填充输入,使输出的形状与输入相同。但是,此模式不支持除 1 之外的任何步长值。
注意
此模块支持复杂数据类型,即 complex32, complex64, complex128
。
参数
in_channels (int ) – 输入图像中的通道数
out_channels (int ) – 卷积产生的通道数
kernel_size (int 或 tuple ) – 卷积核的大小
stride (int 或 tuple , 可选 ) – 卷积的步长。默认值:1
padding (int , tuple 或 str , 可选 ) – 添加到输入所有四边的填充。默认值:0
dilation (int 或 tuple , 可选 ) – 核元素之间的间距。默认值:1
groups (int , 可选 ) – 从输入通道到输出通道的阻塞连接数。默认值:1
bias (bool , 可选 ) – 如果为 True
,则在输出中添加可学习的偏差。默认值:True
padding_mode (str , 可选 ) – 'zeros'
, 'reflect'
, 'replicate'
或 'circular'
。默认值:'zeros'
形状
输入: ( N , C i n , H i n , W i n ) (N, C_{in}, H_{in}, W_{in}) ( N , C in , H in , W in ) 或 ( C i n , H i n , W i n ) (C_{in}, H_{in}, W_{in}) ( C in , H in , W in )
输出: ( N , C o u t , H o u t , W o u t ) (N, C_{out}, H_{out}, W_{out}) ( N , C o u t , H o u t , W o u t ) 或 ( C o u t , H o u t , W o u t ) (C_{out}, H_{out}, W_{out}) ( C o u t , H o u t , W o u t ) ,其中
H o u t = ⌊ H i n + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 stride [ 0 ] + 1 ⌋ H_{out} = \left\lfloor\frac{H_{in} + 2 \times \text{padding}[0] - \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) - 1}{\text{stride}[0]} + 1\right\rfloor H o u t = ⌊ stride [ 0 ] H in + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 + 1 ⌋
W o u t = ⌊ W i n + 2 × padding [ 1 ] − dilation [ 1 ] × ( kernel_size [ 1 ] − 1 ) − 1 stride [ 1 ] + 1 ⌋ W_{out} = \left\lfloor\frac{W_{in} + 2 \times \text{padding}[1] - \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) - 1}{\text{stride}[1]} + 1\right\rfloor W o u t = ⌊ stride [ 1 ] W in + 2 × padding [ 1 ] − dilation [ 1 ] × ( kernel_size [ 1 ] − 1 ) − 1 + 1 ⌋
变量
weight (Tensor ) – 模块的可学习权重,形状为 ( out_channels , in_channels groups , (\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}}, ( out_channels , groups in_channels , kernel_size[0] , kernel_size[1] ) \text{kernel\_size[0]}, \text{kernel\_size[1]}) kernel_size[0] , kernel_size[1] ) 。这些权重的值从 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) 采样,其中 k = g r o u p s C in ∗ ∏ i = 0 1 kernel_size [ i ] k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]} k = C in ∗ ∏ i = 0 1 kernel_size [ i ] g ro u p s 。
bias (Tensor ) – 模块的可学习偏差,形状为 (out_channels)。如果 bias
为 True
,则这些偏差的值从 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) 采样,其中 k = g r o u p s C in ∗ ∏ i = 0 1 kernel_size [ i ] k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]} k = C in ∗ ∏ i = 0 1 kernel_size [ i ] g ro u p s 。
示例
>>> # With square kernels and equal stride
>>> m = nn . Conv2d ( 16 , 33 , 3 , stride = 2 )
>>> # non-square kernels and unequal stride and with padding
>>> m = nn . Conv2d ( 16 , 33 , ( 3 , 5 ), stride = ( 2 , 1 ), padding = ( 4 , 2 ))
>>> # non-square kernels and unequal stride and with padding and dilation
>>> m = nn . Conv2d ( 16 , 33 , ( 3 , 5 ), stride = ( 2 , 1 ), padding = ( 4 , 2 ), dilation = ( 3 , 1 ))
>>> input = torch . randn ( 20 , 16 , 50 , 100 )
>>> output = m ( input )