评价此页

ConvTranspose3d#

class torch.nn.ConvTranspose3d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, groups=1, bias=True, dilation=1, padding_mode='zeros', device=None, dtype=None)[source]#

将卷积核应用于输入图像的3D转置卷积算子,输入图像由多个输入平面组成。转置卷积算子将每个输入值逐元素地乘以可学习的卷积核,并对所有输入特征平面的输出进行求和。

此模块可以视为Conv3d关于其输入的梯度。它也被称为分数步长卷积或反卷积(尽管它并不是真正的反卷积操作,因为它不计算卷积的真实逆)。更多信息请参见 此处的 可视化以及 “反卷积网络” 论文。

此模块支持 TensorFloat32

在某些 ROCm 设备上,当使用 float16 输入时,此模块将对反向传播使用不同精度

  • stride 控制互相关的步长。

  • padding 控制在 dilation * (kernel_size - 1) - padding 个点上的隐式零填充量。有关详细信息,请参见下面的注释。

  • output_padding 控制添加到输出形状一侧的额外尺寸。有关详细信息,请参见下面的注释。

  • dilation 控制卷积核点之间的间距;也称为空洞卷积算法。这较难描述,但 此处的 链接对 dilation 的作用有很好的可视化。

  • groups 控制输入和输出之间的连接。 in_channelsout_channels 都必须能被 groups 整除。例如,

    • 当 groups=1 时,所有输入都会与所有输出进行卷积。

    • 当 groups=2 时,操作相当于有两个并排的卷积层,每个层看到一半的输入通道并产生一半的输出通道,然后将两者连接起来。

    • 当 groups=in_channels 时,每个输入通道都与其自身的滤波器集(大小为 out_channelsin_channels\frac{\text{out\_channels}}{\text{in\_channels}})进行卷积。

参数 kernel_sizestridepaddingoutput_padding 可以是

  • 单个 int —— 此时深度、高度和宽度维度使用相同的值。

  • 一个包含三个 inttuple —— 此时,第一个 int 用于深度维度,第二个 int 用于高度维度,第三个 int 用于宽度维度。

注意

padding 参数有效地在输入的两个尺寸上添加了 dilation * (kernel_size - 1) - padding 的零填充。设置此参数是为了让 Conv3dConvTranspose3d 在使用相同参数初始化时,它们在输入和输出形状方面互为逆操作。但是,当 stride > 1 时,Conv3d 会将多个输入形状映射到相同的输出形状。`output_padding` 参数用于通过有效地增加一侧的计算输出形状来解决此歧义。请注意,`output_padding` 仅用于确定输出形状,而不会实际向输出添加零填充。

注意

在某些情况下,当在 CUDA 设备上提供张量并使用 CuDNN 时,此运算符可能会选择一个非确定性算法来提高性能。如果这是不可取的,您可以尝试通过设置 torch.backends.cudnn.deterministic = True 来使操作确定性(可能以性能为代价)。有关更多信息,请参阅 可复现性

参数
  • in_channels (int) – 输入图像中的通道数

  • out_channels (int) – 卷积产生的通道数

  • kernel_size (inttuple) – 卷积核的大小

  • stride (inttuple, 可选) – 卷积的步长。默认值:1

  • padding (inttuple, 可选) – 将在输入的每个维度的两侧添加 dilation * (kernel_size - 1) - padding 的零填充。默认值:0

  • output_padding (inttuple, 可选) – 添加到输出形状的每个维度一侧的附加大小。默认值:0

  • groups (int, 可选) – 从输入通道到输出通道的阻塞连接数。默认值:1

  • bias (bool, 可选) – 如果为 True,则向输出添加可学习的偏置。默认值:True

  • dilation (inttuple, 可选) – 核元素之间的间距。默认值:1

形状
  • 输入:(N,Cin,Din,Hin,Win)(N, C_{in}, D_{in}, H_{in}, W_{in})(Cin,Din,Hin,Win)(C_{in}, D_{in}, H_{in}, W_{in})

  • 输出:(N,Cout,Dout,Hout,Wout)(N, C_{out}, D_{out}, H_{out}, W_{out})(Cout,Dout,Hout,Wout)(C_{out}, D_{out}, H_{out}, W_{out}),其中

Dout=(Din1)×stride[0]2×padding[0]+dilation[0]×(kernel_size[0]1)+output_padding[0]+1D_{out} = (D_{in} - 1) \times \text{stride}[0] - 2 \times \text{padding}[0] + \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) + \text{output\_padding}[0] + 1
Hout=(Hin1)×stride[1]2×padding[1]+dilation[1]×(kernel_size[1]1)+output_padding[1]+1H_{out} = (H_{in} - 1) \times \text{stride}[1] - 2 \times \text{padding}[1] + \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) + \text{output\_padding}[1] + 1
Wout=(Win1)×stride[2]2×padding[2]+dilation[2]×(kernel_size[2]1)+output_padding[2]+1W_{out} = (W_{in} - 1) \times \text{stride}[2] - 2 \times \text{padding}[2] + \text{dilation}[2] \times (\text{kernel\_size}[2] - 1) + \text{output\_padding}[2] + 1
变量
  • weight (Tensor) – 模块的可学习权重,形状为 (in_channels,out_channelsgroups,(\text{in\_channels}, \frac{\text{out\_channels}}{\text{groups}}, kernel_size[0],kernel_size[1],kernel_size[2])\text{kernel\_size[0]}, \text{kernel\_size[1]}, \text{kernel\_size[2]})。这些权重的取值从 U(k,k)\mathcal{U}(-\sqrt{k}, \sqrt{k}),其中 k=groupsCouti=02kernel_size[i]k = \frac{groups}{C_\text{out} * \prod_{i=0}^{2}\text{kernel\_size}[i]}

  • bias (Tensor) – 模块的可学习偏置,形状为 (out_channels)。如果 biasTrue,则这些权重的取值从 U(k,k)\mathcal{U}(-\sqrt{k}, \sqrt{k}),其中 k=groupsCouti=02kernel_size[i]k = \frac{groups}{C_\text{out} * \prod_{i=0}^{2}\text{kernel\_size}[i]}

示例

>>> # With square kernels and equal stride
>>> m = nn.ConvTranspose3d(16, 33, 3, stride=2)
>>> # non-square kernels and unequal stride and with padding
>>> m = nn.ConvTranspose3d(16, 33, (3, 5, 2), stride=(2, 1, 1), padding=(0, 4, 2))
>>> input = torch.randn(20, 16, 10, 50, 100)
>>> output = m(input)