Spec-Zone.ru › PyTorch 2

Conv1d

class torch.nn.Conv1d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros', device=None, dtype=None) [source]

Применяет 1D свертку к входному сигналу, состоящему из нескольких входных каналов.

В простейшем случае, значение выходного слоя с размером входа (N,Cin,L)(N, C_{\text{in}}, L) и выходом (N,Cout,Lout)(N, C_{\text{out}}, L_{\text{out}}) можно точно описать как:

out(Ni,Coutj)=bias(Coutj)+∑k=0Cin−1weight(Coutj,k)⋆input(Ni,k)\text{out}(N_i, C_{\text{out}_j}) = \text{bias}(C_{\text{out}_j}) + \sum_{k = 0}^{C_{in} - 1} \text{weight}(C_{\text{out}_j}, k) \star \text{input}(N_i, k)

где ⋆\star — оператор кросс-корреляции, NN — размер пакета, CC — количество каналов, LL — длина последовательности сигнала.

Этот модуль поддерживает TensorFloat32.

На некоторых устройствах ROCm, при использовании входных данных с плавающей запятой 16 бит, этот модуль будет использовать разную точность для обратного прохода.

  • stride определяет шаг для кросс-корреляции, одно число или кортеж из одного элемента.
  • padding управляет объёмом применяемого заполнения к входу. Может быть строкой {‘valid’, ‘same’} или кортежем целых чисел, определяющих объём явного заполнения с обеих сторон.
  • dilation управляет расстоянием между точками ядра; также известно как алгоритм à trous. Сложнее описать, но эта ссылка содержит хорошую визуализацию того, что делает dilation.
  • groups управляет связями между входами и выходами. in_channels и out_channels должны быть кратны groups. Например,

    • При groups=1 все входы свертываются ко всем выходам.
    • При groups=2 операция становится эквивалентной двум сверточным слоям, расположенным рядом, каждый из которых видит половину входных каналов и производит половину выходных каналов, а затем оба объединяются.
    • При groups = in_channels, каждый входной канал свертывается со своим набором фильтров (размером out_channelsin_channels\frac{\text{out\_channels}}{\text{in\_channels}}).

Примечание

Когда groups == in_channels и out_channels == K * in_channels, где K — положительное целое число, эта операция также известна как «свертка по глубине».

Другими словами, для входных данных размером (N,Cin,Lin)(N, C_{in}, L_{in}), свертка по глубине с коэффициентом глубины K может быть выполнена с аргументами (Cin=Cin,Cout=Cin×K,...,groups=Cin)(C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in}).

Примечание

В некоторых случаях, при работе с тензорами на устройстве CUDA и использовании CuDNN, этот оператор может выбрать недетерминированный алгоритм для повышения производительности. Если это нежелательно, можно попытаться сделать операцию детерминированной (возможно, с потерей производительности) установив torch.backends.cudnn.deterministic = True. Для получения дополнительной информации см. Воспроизводимость.

Примечание

padding='valid' равно отсутствию заполнения. padding='same' заполняет входные данные так, чтобы выход имел такую же форму, как и вход. Однако этот режим не поддерживает значения шага, отличные от 1.

Примечание

Этот модуль поддерживает сложные типы данных, т. е. complex32, complex64, complex128.

Параметры
  • in_channels (int) – Количество каналов на входном изображении
  • out_channels (int) – Количество каналов, производимых сверткой
  • kernel_size (int или кортеж) – Размер сверточного ядра
  • stride (int или кортеж, необязательно) – Шаг свертки. По умолчанию: 1
  • padding (int, кортеж или строка, необязательно) – Заполнение, добавляемое с обеих сторон входных данных. По умолчанию: 0
  • padding_mode (строка, необязательно) – 'zeros', 'reflect', 'replicate' или 'circular'. По умолчанию: 'zeros'
  • dilation (int или кортеж, необязательно) – Расстояние между элементами ядра. По умолчанию: 1
  • groups (int, необязательно) – Количество блоков соединений от входных каналов к выходным каналам. По умолчанию: 1
  • bias (bool, необязательно) – Если True, добавляет обучаемый сдвиг к выходу. По умолчанию: True
Форма:
  • Вход: (N,Cin,Lin)(N, C_{in}, L_{in}) или (Cin,Lin)(C_{in}, L_{in})
  • Выход: (N,Cout,Lout)(N, C_{out}, L_{out}) или (Cout,Lout)(C_{out}, L_{out}), где

    Lout=⌊Lin+2×padding−dilation×(kernel_size−1)−1stride+1⌋L_{out} = \left\lfloor\frac{L_{in} + 2 \times \text{padding} - \text{dilation} \times (\text{kernel\_size} - 1) - 1}{\text{stride}} + 1\right\rfloor
Переменные
  • weight (Тензор) – обучаемые веса модуля с формой (out_channels,in_channelsgroups,kernel_size)(\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}}, \text{kernel\_size}). Значения этих весов берутся из U(−k,k)\mathcal{U}(-\sqrt{k}, \sqrt{k}), где k=groupsCin∗kernel_sizek = \frac{groups}{C_\text{in} * \text{kernel\_size}}
  • bias (Тензор) – обучаемый сдвиг модуля с формой (out_channels). Если bias равно True, то значения этих весов берутся из U(−k,k)\mathcal{U}(-\sqrt{k}, \sqrt{k}), где k=groupsCin∗kernel_sizek = \frac{groups}{C_\text{in} * \text{kernel\_size}}

Примеры:

>>> m = nn.Conv1d(16, 33, 3, stride=2)
>>> input = torch.randn(20, 16, 50)
>>> output = m(input)

© 2024, PyTorch Contributors
PyTorch has a BSD-style license, as found in the LICENSE file.
https://pytorch.org/docs/2.1/generated/torch.nn.Conv1d.html

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API