torch.nn.functional

Выполняет одномерную свёртку входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет двумерную свёртку входного изображения, состоящего из нескольких входных плоскостей.

Выполняет трёхмерную свёртку входного изображения, состоящего из нескольких входных плоскостей.

Выполняет операцию одномерной транспонированной свёртки входного сигнала, состоящего из нескольких входных плоскостей; иногда её также называют «деконволюцией».

Выполняет операцию двумерной транспонированной свёртки входного изображения, состоящего из нескольких входных плоскостей; иногда её также называют «деконволюцией».

Выполняет операцию трёхмерной транспонированной свёртки входного изображения, состоящего из нескольких входных плоскостей; иногда её также называют «деконволюцией».

Извлекает скользящие локальные блоки из входного тензора с пакетом данных.

Объединяет массив скользящих локальных блоков в большой содержащий их тензор.

Выполняет одномерный пулинг со средним значением входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет двумерный пулинг со средним значением в областях размером $kH \times kW$ с шагом $sH \times sW$.

Выполняет трёхмерный пулинг со средним значением в областях размером $kT \times kH \times kW$ с шагом $sT \times sH \times sW$.

Выполняет одномерный пулинг с максимумом для входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет двумерный пулинг с максимумом для входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет трёхмерный пулинг с максимумом для входного сигнала, состоящего из нескольких входных плоскостей.

Вычисляет частичную обратную операцию для MaxPool1d.

Вычисляет частичную обратную операцию для MaxPool2d.

Вычисляет частичную обратную операцию для MaxPool3d.

Выполняет одномерный степенной пулинг со средним значением входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет двумерный степенной пулинг со средним значением входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет трёхмерный степенной пулинг со средним значением входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет адаптивный одномерный пулинг с максимумом для входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет адаптивный двумерный пулинг с максимумом для входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет адаптивный трёхмерный пулинг с максимумом для входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет адаптивный одномерный пулинг со средним значением входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет адаптивный двумерный пулинг со средним значением входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет адаптивный трёхмерный пулинг со средним значением входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет двумерный дробный пулинг с максимумом для входного сигнала, состоящего из нескольких входных плоскостей.

Выполняет трёхмерный дробный пулинг с максимумом для входного сигнала, состоящего из нескольких входных плоскостей.

scaled_dot_product_attention(query, key, value, attn_mask=None, dropout_p=0.0,

Применяет пороговое значение к каждому элементу входного тензора.

Версия threshold(), выполняющая операцию на месте.

Поэлементно применяет функцию линейного выпрямления.

Версия relu(), выполняющая операцию на месте.

Поэлементно применяет функцию HardTanh.

Версия hardtanh(), выполняющая операцию на месте.

Поэлементно применяет функцию hardswish.

Поэлементно применяет функцию $\text{ReLU6}(x) = \min(\max(0,x), 6)$.

Поэлементно применяет функцию экспоненциальной линейной единицы (ELU).

Версия elu(), выполняющая операцию на месте.

Поэлементно применяет функцию $\text{SELU}(x) = scale * (\max(0,x) + \min(0, \alpha * (\exp(x) - 1)))$, где $\alpha=1.6732632423543772848170429916717$ и $scale=1.0507009873554804934193349852946$.

Поэлементно применяет функцию $\text{CELU}(x) = \max(0,x) + \min(0, \alpha * (\exp(x/\alpha) - 1))$.

Поэлементно применяет функцию $\text{LeakyReLU}(x) = \max(0, x) + \text{negative\_slope} * \min(0, x)$

Версия leaky_relu(), выполняющая операцию на месте.

Поэлементно применяет функцию $\text{PReLU}(x) = \max(0,x) + \text{weight} * \min(0,x)$, где weight — обучаемый параметр.

Случайная Leaky ReLU.

Версия rrelu(), выполняющая операцию на месте.

Линейный блок с вентилем.

Если аргумент approximate равен 'none', поэлементно применяется функция $\text{GELU}(x) = x * \Phi(x)$

Поэлементно применяет функцию $\text{LogSigmoid}(x_i) = \log \left(\frac{1}{1 + \exp(-x_i)}\right)$

Поэлементно применяет функцию жёсткого сжатия

Поэлементно применяет функцию $\text{Tanhshrink}(x) = x - \text{Tanh}(x)$

Поэлементно применяет функцию $\text{SoftSign}(x) = \frac{x}{1 + |x|}$

Поэлементно применяет функцию $\text{Softplus}(x) = \frac{1}{\beta} * \log(1 + \exp(\beta * x))$.

Применяет функцию softmin.

Применяет функцию softmax.

Поэлементно применяет функцию мягкого сжатия

Выбирает выборку из распределения Gumbel-Softmax (ссылка 1 ссылка 2) и при необходимости дискретизирует её.

Применяет softmax, а затем логарифмирует результат.

Поэлементно применяет функцию $\text{Tanh}(x) = \tanh(x) = \frac{\exp(x) - \exp(-x)}{\exp(x) + \exp(-x)}$

Поэлементно применяет функцию $\text{Sigmoid}(x) = \frac{1}{1 + \exp(-x)}$

Поэлементно применяет функцию Hardsigmoid.

Поэлементно применяет функцию сигмоидальной линейной единицы (SiLU).

Поэлементно применяет функцию Mish.

Выполняет пакетную нормализацию каждого канала по пакету данных.

Выполняет групповую нормализацию по заданному числу последних измерений.

Независимо нормализует каждый канал каждого образца данных в пакете.

Выполняет нормализацию слоя по заданному числу последних измерений.

Выполняет локальную нормализацию отклика входного сигнала.

Выполняет нормализацию слоя по среднеквадратичному значению.

Выполняет нормализацию $L_p$ входных данных по указанному измерению.

Применяет линейное преобразование к входным данным: $y = xA^T + b$.

Применяет билинейное преобразование к входным данным: $y = x_1^T A x_2 + b$

Во время обучения случайным образом обнуляет некоторые элементы входного тензора с вероятностью p.

Применяет альфа-прореживание к входным данным.

Случайным образом маскирует целые каналы (канал — это карта признаков).

Случайным образом обнуляет целые каналы (канал — это одномерная карта признаков).

Случайным образом обнуляет целые каналы (канал — это двумерная карта признаков).

Случайным образом обнуляет целые каналы (канал — это трёхмерная карта признаков).

Создаёт простую таблицу поиска для получения эмбеддингов из словаря фиксированного размера.

Вычисляет суммы, средние значения или максимумы bags эмбеддингов.

Принимает LongTensor со значениями индексов формы (*) и возвращает тензор формы (*, num_classes), в котором везде стоят нули, кроме позиций, где индекс последнего измерения совпадает с соответствующим значением входного тензора; в таких позициях стоит 1.

Подробности см. в разделе torch.nn.PairwiseDistance

Возвращает косинусное сходство между x1 и x2, вычисленное вдоль измерения dim.

Вычисляет расстояние в p-норме между каждой парой векторов-строк во входных данных.

Вычисляет бинарную кросс-энтропию между целевыми и входными вероятностями.

Вычисляет бинарную кросс-энтропию между целевыми значениями и входными логитами.

Вычисляет функцию потерь на основе отрицательного логарифмического правдоподобия распределения Пуассона.

Вычисляет функцию потерь косинусного эмбеддинга.

Вычисляет функцию потерь кросс-энтропии между входными логитами и целевыми значениями.

Вычисляет функцию потерь Connectionist Temporal Classification (CTC).

Вычисляет функцию потерь на основе отрицательного логарифмического правдоподобия гауссовского распределения.

Вычисляет функцию потерь hinge-эмбеддинга.

Вычисляет функцию потерь дивергенции Кульбака — Лейблера (KL).

Вычисляет функцию потерь L1 с необязательным взвешиванием.

Вычисляет функцию потерь кросс-энтропии между линейно преобразованными входными данными и целевыми значениями.

Вычисляет среднеквадратичную ошибку поэлементно с необязательным взвешиванием.

Вычисляет функцию потерь ранжирования с отступом.

Вычисляет функцию потерь с отступом для нескольких меток.

Вычисляет функцию потерь с мягким отступом для нескольких меток.

Вычисляет функцию потерь с несколькими отступами и необязательным взвешиванием.

Вычисляет функцию потерь на основе отрицательного логарифмического правдоподобия.

Вычисляет функцию потерь Хьюбера с необязательным взвешиванием.

Вычисляет функцию потерь Smooth L1.

Вычисляет функцию потерь с мягким отступом.

Вычисляет триплетную функцию потерь для заданных входных тензоров и отступа, большего 0.

Вычисляет триплетную функцию потерь с отступом для входных тензоров, используя пользовательскую функцию расстояния.

Переставляет элементы тензора формы $(*, C \times r^2, H, W)$ в тензор формы $(*, C, H \times r, W \times r)$, где r — upscale_factor.

Выполняет обратную операцию по отношению к PixelShuffle, переставляя элементы тензора формы $(*, C, H \times r, W \times r)$ в тензор формы $(*, C \times r^2, H, W)$, где r — downscale_factor.

Добавляет отступы к тензору.

Уменьшает или увеличивает размер входных данных.

Увеличивает размер входных данных.

Увеличивает размер входных данных, используя значения пикселей ближайших соседей.

Увеличивает размер входных данных с помощью билинейной интерполяции.

Вычисляет выборку по сетке.

Создаёт двумерное или трёхмерное поле потока (сетку выборки) на основе пакета аффинных матриц theta.

псевдоним для _ScalingType

псевдоним для _SwizzleType

Вычисляет сгруппированное матричное произведение, использующее общие формы весов для экспертов, но допускающее переменное количество токенов для каждого эксперта, что характерно для слоёв смеси экспертов (MoE).

scaled_mm(mat_a, mat_b, scale_a, scale_recipe_a, scale_b, scale_recipe_b, swizzle_a, swizzle_b, bias, output_dtype,

scaled_grouped_mm(mat_a, mat_b, scale_a, scale_recipe_a, scale_b, scale_recipe_b, swizzle_a, swizzle_b, bias, offs,