Conv2d

class torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros', device=None, dtype=None) [source]

Выполняет двумерную свёртку над входным сигналом, состоящим из нескольких входных плоскостей.

В простейшем случае выходное значение слоя с размером входа $(N, C_{\text{in}}, H, W)$ и выходом $(N, C_{\text{out}}, H_{\text{out}}, W_{\text{out}})$ можно точно описать следующим образом:

$$\text{out}(N_i, C_{\text{out}_j}) = \text{bias}(C_{\text{out}_j}) + \sum_{k = 0}^{C_{\text{in}} - 1} \text{weight}(C_{\text{out}_j}, k) \star \text{input}(N_i, k)$$

где $\star$ — оператор двумерной взаимной корреляции без дополнения, $N$ — размер пакета, $C_{\text{in}}$ и $C_{\text{out}}$ соответствуют in_channels и out_channels соответственно, $H$ и $W$ — высота и ширина входного изображения в пикселях. О том, как kernel_size, stride, padding и dilation используются для вычисления $H_{\text{out}}$ и $W_{\text{out}}$, см. раздел «Форма» ниже.

Этот модуль поддерживает TensorFloat32.

На некоторых устройствах ROCm при использовании входных данных float16 этот модуль использует другую точность для обратного прохода.

• stride задаёт шаг взаимной корреляции: одно число или кортеж.
• padding задаёт величину дополнения, применяемого к входным данным. Может быть строкой {‘valid’, ‘same’} либо целым числом или кортежем целых чисел, задающим величину неявного дополнения с обеих сторон.
• dilation задаёт расстояние между точками ядра; также известно как алгоритм à trous. Его сложнее описать, но по этой ссылке можно посмотреть наглядную визуализацию действия dilation.

• groups задаёт связи между входами и выходами. in_channels и out_channels должны делиться на groups без остатка. Например:

  • При groups=1 все входы свёртываются со всеми выходами.
  • При groups=2 операция эквивалентна двум параллельно расположенным слоям свёртки: каждый обрабатывает половину входных каналов и формирует половину выходных каналов, после чего результаты обоих слоёв объединяются конкатенацией.
  • При groups= in_channels каждый входной канал свёртывается со своим набором фильтров (размера $\frac{\text{out\_channels}}{\text{in\_channels}}$).

Параметры kernel_size, stride, padding, dilation могут быть заданы следующим образом:

• одним int — в этом случае одно и то же значение используется для высоты и ширины;
• tuple из двух целых чисел — в этом случае первое int используется для высоты, а второе int — для ширины.

Примечание

Когда groups == in_channels и out_channels == K * in_channels, где K — положительное целое число, эта операция также называется «глубинной свёрткой» (depthwise convolution).

Иными словами, для входа размера $(N, C_{in}, L_{in})$ глубинную свёртку с множителем глубины K можно выполнить, используя аргументы $(C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in})$.

Примечание

В некоторых случаях при передаче тензоров на устройстве CUDA и использовании CuDNN этот оператор может выбрать недетерминированный алгоритм для повышения производительности. Если это нежелательно, можно попробовать сделать операцию детерминированной (возможно, ценой снижения производительности), задав torch.backends.cudnn.deterministic = True. Дополнительные сведения см. в разделе Воспроизводимость.

Примечание

padding='valid' означает отсутствие дополнения. padding='same' дополняет входные данные так, чтобы форма выхода совпадала с формой входа. Однако этот режим не поддерживает значения шага, отличные от 1.

Примечание

Этот модуль поддерживает комплексные типы данных, например complex32, complex64, complex128.

Параметры:

• in_channels (int) – количество каналов во входном изображении
• out_channels (int) – количество каналов, создаваемых свёрткой
• kernel_size (int или tuple) – размер ядра свёртки
• stride (int или tuple, необязательный) – шаг свёртки. По умолчанию: 1
• padding (int, tuple или str, необязательный) – дополнение, добавляемое со всех четырёх сторон входных данных. По умолчанию: 0
• dilation (int или tuple, необязательный) – расстояние между элементами ядра. По умолчанию: 1
• groups (int, необязательный) – количество групп связей между входными и выходными каналами. По умолчанию: 1
• bias (bool, необязательный) – если True, к выходу добавляется обучаемое смещение. По умолчанию: True
• padding_mode (str, необязательный) – 'zeros', 'reflect', 'replicate' или 'circular'. По умолчанию: 'zeros'

Форма:

• Вход: $(N, C_{in}, H_{in}, W_{in})$ или $(C_{in}, H_{in}, W_{in})$

• Выход: $(N, C_{out}, H_{out}, W_{out})$ или $(C_{out}, H_{out}, W_{out})$, где

  $$H_{out} = \left\lfloor\frac{H_{in} + 2 \times \text{padding}[0] - \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) - 1}{\text{stride}[0]} + 1\right\rfloor$$
  $$W_{out} = \left\lfloor\frac{W_{in} + 2 \times \text{padding}[1] - \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) - 1}{\text{stride}[1]} + 1\right\rfloor$$

Переменные:

• weight (Tensor) – обучаемые веса модуля формы $(\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}},$ $\text{kernel\_size[0]}, \text{kernel\_size[1]})$. Значения этих весов выбираются из распределения $\mathcal{U}(-\sqrt{k}, \sqrt{k})$, где $k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]}$
• bias (Tensor) – обучаемое смещение модуля формы (out_channels). Если bias равно True, значения этих весов выбираются из распределения $\mathcal{U}(-\sqrt{k}, \sqrt{k})$, где $k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]}$

Примеры

>>> # With square kernels and equal stride
>>> m = nn.Conv2d(16, 33, 3, stride=2)
>>> # non-square kernels and unequal stride and with padding
>>> m = nn.Conv2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2))
>>> # non-square kernels and unequal stride and with padding and dilation
>>> m = nn.Conv2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2), dilation=(3, 1))
>>> input = torch.randn(20, 16, 50, 100)
>>> output = m(input)