ConvTranspose2d

class torch.nn.modules.conv.ConvTranspose2d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, groups=1, bias=True, dilation=1, padding_mode='zeros', device=None, dtype=None) [source]

Применяет оператор двумерной транспонированной свёртки к входному изображению, состоящему из нескольких входных плоскостей.

Этот модуль можно рассматривать как градиент Conv2d по отношению к входным данным. Он также известен как свёртка с дробным шагом или деконволюция (хотя на самом деле это не деконволюция, поскольку операция не вычисляет истинное обратное преобразование свёртки). Дополнительные сведения см. в визуализациях здесь и в статье Deconvolutional Networks.

Этот модуль поддерживает TensorFloat32.

На некоторых устройствах ROCm при использовании входных данных типа float16 этот модуль применяет другую точность при обратном проходе.

• stride задаёт шаг для взаимной корреляции. Если stride > 1, ConvTranspose2d вставляет нули между элементами входных данных вдоль пространственных измерений перед применением ядра свёртки. Эта операция вставки нулей является стандартным поведением транспонированных свёрток: она может увеличивать пространственное разрешение и эквивалентна обучаемой операции повышения дискретизации.
• padding задаёт величину неявного дополнения нулями с обеих сторон для количества точек dilation * (kernel_size - 1) - padding. Подробности см. в примечании ниже.
• output_padding задаёт дополнительный размер, добавляемый с одной стороны выходной формы. Подробности см. в примечании ниже.
• dilation задаёт расстояние между точками ядра; этот алгоритм также известен как алгоритм à trous. Его сложнее описать, но по ссылке здесь можно посмотреть наглядную визуализацию того, что делает dilation.

• groups задаёт связи между входными и выходными данными. in_channels и out_channels должны делиться на groups без остатка. Например:

  • При groups=1 все входные каналы свёртываются со всеми выходными каналами.
  • При groups=2 операция эквивалентна двум расположенным рядом слоям свёртки: каждый из них обрабатывает половину входных каналов и создаёт половину выходных каналов, после чего результаты обоих слоёв объединяются.
  • При groups= in_channels каждый входной канал свёртывается с собственным набором фильтров (размером $\frac{\text{out\_channels}}{\text{in\_channels}}$).

Параметры kernel_size, stride, padding, output_padding могут быть заданы следующим образом:

• одно значение типа int — в этом случае одно и то же значение используется для высоты и ширины
• tuple из двух целых чисел — в этом случае первое int используется для высоты, а второе int — для ширины

Примечание

Аргумент padding фактически добавляет dilation * (kernel_size - 1) - padding нулевого дополнения с обеих сторон входных данных. Это значение выбрано так, чтобы при инициализации Conv2d и ConvTranspose2d с одинаковыми параметрами они были обратными друг другу с точки зрения форм входных и выходных данных. Однако при stride > 1 Conv2d отображает несколько форм входных данных в одну и ту же форму выходных данных. output_padding позволяет устранить эту неоднозначность, фактически увеличивая вычисленную форму выходных данных с одной стороны. Обратите внимание, что output_padding используется только для определения формы выходных данных и не добавляет нулевое дополнение к самим выходным данным.

Примечание

В некоторых случаях при обработке тензоров на устройстве CUDA с использованием CuDNN этот оператор может выбрать недетерминированный алгоритм для повышения производительности. Если это нежелательно, можно попытаться сделать операцию детерминированной (возможно, за счёт снижения производительности), установив torch.backends.cudnn.deterministic = True. Дополнительные сведения см. в разделе Воспроизводимость.

Параметры:

• in_channels (int) – Количество каналов во входном изображении
• out_channels (int) – Количество каналов, создаваемых свёрткой
• kernel_size (int or tuple) – Размер ядра свёртки
• stride (int or tuple, необязательный) – Шаг свёртки. Значение по умолчанию: 1
• padding (int or tuple, необязательный) – dilation * (kernel_size - 1) - padding нулевого дополнения будет добавлено с обеих сторон каждого измерения входных данных. Значение по умолчанию: 0
• output_padding (int or tuple, необязательный) – Дополнительный размер, добавляемый с одной стороны каждого измерения формы выходных данных. Значение по умолчанию: 0
• groups (int, необязательный) – Количество группированных связей между входными и выходными каналами. Значение по умолчанию: 1
• bias (bool, необязательный) – Если True, к выходным данным добавляется обучаемое смещение. Значение по умолчанию: True
• dilation (int or tuple, необязательный) – Расстояние между элементами ядра. Значение по умолчанию: 1

Форма:

• Входные данные: $(N, C_{in}, H_{in}, W_{in})$ или $(C_{in}, H_{in}, W_{in})$
• Выходные данные: $(N, C_{out}, H_{out}, W_{out})$ или $(C_{out}, H_{out}, W_{out})$, где

$$H_{out} = (H_{in} - 1) \times \text{stride}[0] - 2 \times \text{padding}[0] + \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) + \text{output\_padding}[0] + 1$$

$$W_{out} = (W_{in} - 1) \times \text{stride}[1] - 2 \times \text{padding}[1] + \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) + \text{output\_padding}[1] + 1$$

Переменные:

• weight (Tensor) – обучаемые веса модуля формы $(\text{in\_channels}, \frac{\text{out\_channels}}{\text{groups}},$ $\text{kernel\_size[0]}, \text{kernel\_size[1]})$. Значения этих весов выбираются из распределения $\mathcal{U}(-\sqrt{k}, \sqrt{k})$, где $k = \frac{groups}{C_\text{out} * \prod_{i=0}^{1}\text{kernel\_size}[i]}$
• bias (Tensor) – обучаемое смещение модуля формы (out_channels). Если bias равно True, значения этих весов выбираются из распределения $\mathcal{U}(-\sqrt{k}, \sqrt{k})$, где $k = \frac{groups}{C_\text{out} * \prod_{i=0}^{1}\text{kernel\_size}[i]}$

Примеры:

>>> # With square kernels and equal stride
>>> m = nn.ConvTranspose2d(16, 33, 3, stride=2)
>>> # non-square kernels and unequal stride and with padding
>>> m = nn.ConvTranspose2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2))
>>> input = torch.randn(20, 16, 50, 100)
>>> output = m(input)
>>> # exact output size can be also specified as an argument
>>> input = torch.randn(1, 16, 12, 12)
>>> downsample = nn.Conv2d(16, 16, 3, stride=2, padding=1)
>>> upsample = nn.ConvTranspose2d(16, 16, 3, stride=2, padding=1)
>>> h = downsample(input)
>>> h.size()
torch.Size([1, 16, 6, 6])
>>> output = upsample(h, output_size=input.size())
>>> output.size()
torch.Size([1, 16, 12, 12])

forward(input, output_size=None) [source]

Выполняет прямой проход.

Переменные:

• input (Tensor) – Входной тензор.
• output_size (list[int], необязательный) – Список целых чисел, представляющих размер выходного тензора. Значение по умолчанию — None.

Тип возвращаемого значения:

Tensor