torch.nn

Создано: 23 дек. 2016 г. | Последнее обновление: 02 июн. 2026 г.

Это основные строительные блоки графов:

Контейнеры
Слои свёртки
Слои пулинга
Слои дополнения
Нелинейные функции активации (взвешенная сумма, нелинейность)
Нелинейные функции активации (прочие)
Слои нормализации
Рекуррентные слои
Слои трансформера
Линейные слои
Слои прореживания
Разреженные слои
Функции расстояния
Функции потерь
Слои компьютерного зрения
Слои перемешивания
Слои DataParallel (несколько GPU, распределённые вычисления)
Утилиты
Квантованные функции
Инициализация ленивых модулей

`Buffer`	Тип Tensor, который не следует считать параметром модели.
`Parameter`	Тип Tensor, который следует считать параметром модуля.
`UninitializedParameter`	Неинициализированный параметр.
`UninitializedBuffer`	Неинициализированный буфер.

Контейнеры

`Module`	Базовый класс для всех модулей нейронных сетей.
`Sequential`	Последовательный контейнер.
`ModuleList`	Содержит подмодули в списке.
`ModuleDict`	Содержит подмодули в словаре.
`ParameterList`	Содержит параметры в списке.
`ParameterDict`	Содержит параметры в словаре.

Глобальные хуки модулей

`register_module_forward_pre_hook`	Регистрирует общий для всех модулей предварительный хук прямого прохода.
`register_module_forward_hook`	Регистрирует глобальный хук прямого прохода для всех модулей.
`register_module_backward_hook`	Регистрирует общий для всех модулей хук обратного прохода.
`register_module_full_backward_pre_hook`	Регистрирует общий для всех модулей предварительный хук обратного прохода.
`register_module_full_backward_hook`	Регистрирует общий для всех модулей хук обратного прохода.
`register_module_buffer_registration_hook`	Регистрирует общий для всех модулей хук регистрации буферов.
`register_module_module_registration_hook`	Регистрирует общий для всех модулей хук регистрации модулей.
`register_module_parameter_registration_hook`	Регистрирует общий для всех модулей хук регистрации параметров.

Слои свёртки

`nn.Conv1d`	Выполняет одномерную свёртку входного сигнала, состоящего из нескольких входных плоскостей.
`nn.Conv2d`	Выполняет двумерную свёртку входного сигнала, состоящего из нескольких входных плоскостей.
`nn.Conv3d`	Выполняет трёхмерную свёртку входного сигнала, состоящего из нескольких входных плоскостей.
`nn.ConvTranspose1d`	Выполняет оператор одномерной транспонированной свёртки над входным изображением, состоящим из нескольких входных плоскостей.
`nn.ConvTranspose2d`	Выполняет оператор двумерной транспонированной свёртки над входным изображением, состоящим из нескольких входных плоскостей.
`nn.ConvTranspose3d`	Выполняет оператор трёхмерной транспонированной свёртки над входным изображением, состоящим из нескольких входных плоскостей.
`nn.LazyConv1d`	Модуль `torch.nn.Conv1d` с отложенной инициализацией аргумента `in_channels`.
`nn.LazyConv2d`	Модуль `torch.nn.Conv2d` с отложенной инициализацией аргумента `in_channels`.
`nn.LazyConv3d`	Модуль `torch.nn.Conv3d` с отложенной инициализацией аргумента `in_channels`.
`nn.LazyConvTranspose1d`	Модуль `torch.nn.ConvTranspose1d` с отложенной инициализацией аргумента `in_channels`.
`nn.LazyConvTranspose2d`	Модуль `torch.nn.ConvTranspose2d` с отложенной инициализацией аргумента `in_channels`.
`nn.LazyConvTranspose3d`	Модуль `torch.nn.ConvTranspose3d` с отложенной инициализацией аргумента `in_channels`.
`nn.Unfold`	Извлекает скользящие локальные блоки из пакетного входного тензора.
`nn.Fold`	Объединяет массив скользящих локальных блоков в большой содержащий их тензор.

Слои пулинга

`nn.MaxPool1d`	Выполняет одномерный пулинг максимума входного сигнала, состоящего из нескольких входных плоскостей.
`nn.MaxPool2d`	Выполняет двумерный пулинг максимума входного сигнала, состоящего из нескольких входных плоскостей.
`nn.MaxPool3d`	Выполняет трёхмерный пулинг максимума входного сигнала, состоящего из нескольких входных плоскостей.
`nn.MaxUnpool1d`	Вычисляет частичную обратную операцию для `MaxPool1d`.
`nn.MaxUnpool2d`	Вычисляет частичную обратную операцию для `MaxPool2d`.
`nn.MaxUnpool3d`	Вычисляет частичную обратную операцию для `MaxPool3d`.
`nn.AvgPool1d`	Выполняет одномерный пулинг среднего значения входного сигнала, состоящего из нескольких входных плоскостей.
`nn.AvgPool2d`	Выполняет двумерный пулинг среднего значения входного сигнала, состоящего из нескольких входных плоскостей.
`nn.AvgPool3d`	Выполняет трёхмерный пулинг среднего значения входного сигнала, состоящего из нескольких входных плоскостей.
`nn.FractionalMaxPool2d`	Выполняет двумерный дробный пулинг максимума входного сигнала, состоящего из нескольких входных плоскостей.
`nn.FractionalMaxPool3d`	Выполняет трёхмерный дробный пулинг максимума входного сигнала, состоящего из нескольких входных плоскостей.
`nn.LPPool1d`	Выполняет одномерный степенной пулинг среднего значения входного сигнала, состоящего из нескольких входных плоскостей.
`nn.LPPool2d`	Выполняет двумерный степенной пулинг среднего значения входного сигнала, состоящего из нескольких входных плоскостей.
`nn.LPPool3d`	Выполняет трёхмерный степенной пулинг среднего значения входного сигнала, состоящего из нескольких входных плоскостей.
`nn.AdaptiveMaxPool1d`	Выполняет адаптивный одномерный пулинг максимума входного сигнала, состоящего из нескольких входных плоскостей.
`nn.AdaptiveMaxPool2d`	Выполняет адаптивный двумерный пулинг максимума входного сигнала, состоящего из нескольких входных плоскостей.
`nn.AdaptiveMaxPool3d`	Выполняет адаптивный трёхмерный пулинг максимума входного сигнала, состоящего из нескольких входных плоскостей.
`nn.AdaptiveAvgPool1d`	Выполняет адаптивный одномерный пулинг среднего значения входного сигнала, состоящего из нескольких входных плоскостей.
`nn.AdaptiveAvgPool2d`	Выполняет адаптивный двумерный пулинг среднего значения входного сигнала, состоящего из нескольких входных плоскостей.
`nn.AdaptiveAvgPool3d`	Выполняет адаптивный трёхмерный пулинг среднего значения входного сигнала, состоящего из нескольких входных плоскостей.

Слои дополнения

`nn.ReflectionPad1d`	Дополняет входной тензор, отражая его границы.
`nn.ReflectionPad2d`	Дополняет входной тензор, отражая его границы.
`nn.ReflectionPad3d`	Дополняет входной тензор, отражая его границы.
`nn.ReplicationPad1d`	Дополняет входной тензор, копируя значения на его границах.
`nn.ReplicationPad2d`	Дополняет входной тензор, копируя значения на его границах.
`nn.ReplicationPad3d`	Дополняет входной тензор, копируя значения на его границах.
`nn.ZeroPad1d`	Дополняет границы входного тензора нулями.
`nn.ZeroPad2d`	Дополняет границы входного тензора нулями.
`nn.ZeroPad3d`	Дополняет границы входного тензора нулями.
`nn.ConstantPad1d`	Дополняет границы входного тензора постоянным значением.
`nn.ConstantPad2d`	Дополняет границы входного тензора постоянным значением.
`nn.ConstantPad3d`	Дополняет границы входного тензора постоянным значением.
`nn.CircularPad1d`	Дополняет входной тензор циклическим образом, используя значения на его границах.
`nn.CircularPad2d`	Дополняет входной тензор циклическим образом, используя значения на его границах.
`nn.CircularPad3d`	Дополняет входной тензор циклическим образом, используя значения на его границах.

Нелинейные функции активации (взвешенная сумма, нелинейность)

`nn.ELU`	Поэлементно применяет функцию экспоненциальной линейной единицы (ELU).
`nn.Hardshrink`	Поэлементно применяет функцию жёсткого сжатия (Hardshrink).
`nn.Hardsigmoid`	Поэлементно применяет функцию Hardsigmoid.
`nn.Hardtanh`	Поэлементно применяет функцию HardTanh.
`nn.Hardswish`	Поэлементно применяет функцию Hardswish.
`nn.LeakyReLU`	Поэлементно применяет функцию LeakyReLU.
`nn.LogSigmoid`	Поэлементно применяет функцию LogSigmoid.
`nn.MultiheadAttention`	Позволяет модели совместно учитывать информацию из различных подпространств представлений.
`nn.PReLU`	Поэлементно применяет функцию PReLU.
`nn.ReLU`	Поэлементно применяет функцию выпрямленной линейной единицы.
`nn.ReLU6`	Поэлементно применяет функцию ReLU6.
`nn.RReLU`	Поэлементно применяет функцию рандомизированной выпрямленной линейной единицы с утечкой.
`nn.SELU`	Поэлементно применяет функцию SELU.
`nn.CELU`	Поэлементно применяет функцию CELU.
`nn.GELU`	Применяет функцию гауссовой линейной единицы.
`nn.Sigmoid`	Поэлементно применяет функцию Sigmoid.
`nn.SiLU`	Поэлементно применяет функцию сигмоидальной линейной единицы (SiLU).
`nn.Mish`	Поэлементно применяет функцию Mish.
`nn.Softplus`	Поэлементно применяет функцию Softplus.
`nn.Softshrink`	Поэлементно применяет функцию мягкого сжатия.
`nn.Softsign`	Поэлементно применяет функцию Softsign.
`nn.Tanh`	Поэлементно применяет функцию гиперболического тангенса (Tanh).
`nn.Tanhshrink`	Поэлементно применяет функцию Tanhshrink.
`nn.Threshold`	Применяет пороговую функцию к каждому элементу входного Tensor.
`nn.GLU`	Применяет функцию gated linear unit.

Нелинейные функции активации (прочие)

`nn.Softmin`	Применяет функцию Softmin к n-мерному входному Tensor.
`nn.Softmax`	Применяет функцию Softmax к n-мерному входному Tensor.
`nn.Softmax2d`	Применяет SoftMax по признакам в каждой пространственной позиции.
`nn.LogSoftmax`	Применяет функцию $\log(\text{Softmax}(x))$ к n-мерному входному Tensor.
`nn.AdaptiveLogSoftmaxWithLoss`	Эффективное приближение softmax.

Слои нормализации

`nn.BatchNorm1d`	Применяет пакетную нормализацию к входным данным размерности 2D или 3D.
`nn.BatchNorm2d`	Применяет пакетную нормализацию к входным данным размерности 4D.
`nn.BatchNorm3d`	Применяет пакетную нормализацию к входным данным размерности 5D.
`nn.LazyBatchNorm1d`	Модуль `torch.nn.BatchNorm1d` с отложенной инициализацией.
`nn.LazyBatchNorm2d`	Модуль `torch.nn.BatchNorm2d` с отложенной инициализацией.
`nn.LazyBatchNorm3d`	Модуль `torch.nn.BatchNorm3d` с отложенной инициализацией.
`nn.GroupNorm`	Применяет групповую нормализацию к мини-пакету входных данных.
`nn.SyncBatchNorm`	Применяет пакетную нормализацию к входным данным N-мерной размерности.
`nn.InstanceNorm1d`	Применяет нормализацию экземпляра.
`nn.InstanceNorm2d`	Применяет нормализацию экземпляра.
`nn.InstanceNorm3d`	Применяет нормализацию экземпляра.
`nn.LazyInstanceNorm1d`	Модуль `torch.nn.InstanceNorm1d` с отложенной инициализацией аргумента `num_features`.
`nn.LazyInstanceNorm2d`	Модуль `torch.nn.InstanceNorm2d` с отложенной инициализацией аргумента `num_features`.
`nn.LazyInstanceNorm3d`	Модуль `torch.nn.InstanceNorm3d` с отложенной инициализацией аргумента `num_features`.
`nn.LayerNorm`	Применяет послойную нормализацию к мини-пакету входных данных.
`nn.LocalResponseNorm`	Применяет локальную нормализацию отклика к входному сигналу.
`nn.RMSNorm`	Применяет послойную нормализацию по среднеквадратичному значению к мини-пакету входных данных.

Рекуррентные слои

`nn.RNNBase`	Базовый класс для модулей RNN (RNN, LSTM, GRU).
`nn.RNN`	Применяет к входной последовательности многослойную RNN Эльмана с нелинейностью $\tanh$ или $\text{ReLU}$ .
`nn.LSTM`	Применяет к входной последовательности многослойную рекуррентную нейронную сеть с долговременной краткосрочной памятью (LSTM).
`nn.GRU`	Применяет к входной последовательности многослойную рекуррентную нейронную сеть с управляемыми рекуррентными блоками (GRU).
`nn.RNNCell`	Ячейка RNN Эльмана с нелинейностью tanh или ReLU.
`nn.LSTMCell`	Ячейка долговременной краткосрочной памяти (LSTM).
`nn.GRUCell`	Ячейка с управляемыми рекуррентными блоками (GRU).

Слои Transformer

`nn.Transformer`	Базовый слой Transformer.
`nn.TransformerEncoder`	TransformerEncoder — это стек из N слоёв кодировщика.
`nn.TransformerDecoder`	TransformerDecoder — это стек из N слоёв декодировщика.
`nn.TransformerEncoderLayer`	TransformerEncoderLayer состоит из механизма self-attention и полносвязной сети.
`nn.TransformerDecoderLayer`	TransformerDecoderLayer состоит из механизма self-attention, многоголового механизма attention и полносвязной сети.

Линейные слои

`nn.Identity`	Заполнитель — тождественный оператор, не зависящий от аргументов.
`nn.Linear`	Применяет к входным данным аффинное линейное преобразование: $y = xA^T + b$ .
`nn.Bilinear`	Применяет к входным данным билинейное преобразование: $y = x_1^T A x_2 + b$ .
`nn.LazyLinear`	Модуль `torch.nn.Linear`, в котором выводится значение `in_features`.

Слои Dropout

`nn.Dropout`	Во время обучения случайным образом обнуляет некоторые элементы входного тензора с вероятностью `p`.
`nn.Dropout1d`	Случайным образом обнуляет целые каналы.
`nn.Dropout2d`	Случайным образом обнуляет целые каналы.
`nn.Dropout3d`	Случайным образом обнуляет целые каналы.
`nn.AlphaDropout`	Применяет Alpha Dropout к входным данным.
`nn.FeatureAlphaDropout`	Случайным образом маскирует целые каналы.

Разреженные слои

`nn.Embedding`	Простая таблица поиска, хранящая эмбеддинги словаря фиксированного размера.
`nn.EmbeddingBag`	Вычисляет суммы или средние значения «пакетов» эмбеддингов, не создавая промежуточные эмбеддинги.

Функции расстояния

`nn.CosineSimilarity`	Возвращает косинусное сходство между $x_1$ и $x_2$ , вычисленное вдоль `dim`.
`nn.PairwiseDistance`	Вычисляет попарное расстояние между входными векторами или между столбцами входных матриц.

Функции потерь

`nn.L1Loss`	Создаёт критерий, вычисляющий среднюю абсолютную ошибку (MAE) между каждым элементом входных данных $x$ и целевых данных $y$ .
`nn.MSELoss`	Создаёт критерий, вычисляющий среднеквадратичную ошибку (квадрат нормы L2) между каждым элементом входных данных $x$ и целевых данных $y$ .
`nn.CrossEntropyLoss`	Этот критерий вычисляет функцию потерь на основе перекрёстной энтропии между входными логитами и целевыми данными.
`nn.LinearCrossEntropyLoss`	Этот критерий вычисляет функцию потерь на основе перекрёстной энтропии между входными данными, линейно преобразованными в логиты, и целевыми данными.
`nn.LinearCrossEntropyOptions`	Настройки для реализации `linear_cross_entropy()` с разбиением на блоки.
`nn.CTCLoss`	Функция потерь Connectionist Temporal Classification.
`nn.NLLLoss`	Функция потерь на основе отрицательного логарифма правдоподобия.
`nn.PoissonNLLLoss`	Функция потерь на основе отрицательного логарифма правдоподобия с распределением Пуассона для целевых данных.
`nn.GaussianNLLLoss`	Функция потерь на основе отрицательного логарифма правдоподобия с гауссовым распределением.
`nn.KLDivLoss`	Функция потерь на основе дивергенции Кульбака — Лейблера.
`nn.BCELoss`	Создаёт критерий, вычисляющий бинарную перекрёстную энтропию между целевыми данными и входными вероятностями:
`nn.BCEWithLogitsLoss`	Эта функция потерь объединяет слой `Sigmoid` и `BCELoss` в одном классе.
`nn.MarginRankingLoss`	Создаёт критерий, вычисляющий потери для входных данных $x1$ , $x2$ , представляющих собой мини-пакет размерности 1D или скаляры размерности 0D `Tensors`, а также метку — мини-пакет размерности 1D или скаляр размерности 0D `Tensor` $y$ (содержащую 1 или -1).
`nn.HingeEmbeddingLoss`	Вычисляет потери для входного тензора $x$ и тензора меток $y$ (содержащего 1 или -1).
`nn.MultiLabelMarginLoss`	Создаёт критерий, оптимизирующий функцию потерь на основе hinge loss (потери на основе отступа) для многоклассовой классификации с несколькими метками между входными данными $x$ (мини-пакетом размерности 2D `Tensor`) и выходными данными $y$ (тензором размерности 2D `Tensor` с индексами целевых классов).
`nn.HuberLoss`	Создаёт критерий, использующий квадратичный член, если абсолютная поэлементная ошибка меньше delta, и член L1, масштабированный на delta, в противном случае.
`nn.SmoothL1Loss`	Создаёт критерий, использующий квадратичный член, если абсолютная поэлементная ошибка меньше beta, и член L1 в противном случае.
`nn.SoftMarginLoss`	Создаёт критерий, оптимизирующий логистическую функцию потерь для бинарной классификации между входным тензором $x$ и целевым тензором $y$ (содержащим 1 или -1).
`nn.MultiLabelSoftMarginLoss`	Создаёт критерий, оптимизирующий функцию потерь «один против всех» для нескольких меток на основе максимальной энтропии между входными данными $x$ и целевыми данными $y$ размера $(N, C)$ .
`nn.CosineEmbeddingLoss`	Создаёт критерий, вычисляющий потери для входных тензоров $x_1$ , $x_2$ и метки `Tensor` $y$ со значениями 1 или -1.
`nn.MultiMarginLoss`	Создаёт критерий, оптимизирующий функцию потерь на основе hinge loss (потери на основе отступа) для многоклассовой классификации между входными данными $x$ (мини-пакетом размерности 2D `Tensor`) и выходными данными $y$ (тензором размерности 1D с индексами целевых классов, $0 \leq y \leq \text{x.size}(1)-1$ ):
`nn.TripletMarginLoss`	Создаёт критерий, вычисляющий триплетную функцию потерь для входных тензоров $x1$ , $x2$ , $x3$ и отступа со значением больше $0$ .
`nn.TripletMarginWithDistanceLoss`	Создаёт критерий, вычисляющий триплетную функцию потерь для входных тензоров $a$ , $p$ и $n$ (соответственно представляющих опорный, положительный и отрицательный примеры), а также неотрицательной вещественнозначной функции («функции расстояния»), используемой для вычисления взаимосвязи между опорным и положительным примерами («положительное расстояние»), а также между опорным и отрицательным примерами («отрицательное расстояние»).

Слои для компьютерного зрения

`nn.PixelShuffle`	Переставляет элементы тензора в соответствии с коэффициентом увеличения.
`nn.PixelUnshuffle`	Выполняет обратную операцию PixelShuffle.
`nn.Upsample`	Увеличивает размерность многоканальных данных размерности 1D (временных), 2D (пространственных) или 3D (объёмных).
`nn.UpsamplingNearest2d`	Применяет к входному сигналу, состоящему из нескольких входных каналов, двумерную передискретизацию методом ближайшего соседа.
`nn.UpsamplingBilinear2d`	Применяет к входному сигналу, состоящему из нескольких входных каналов, двумерную билинейную передискретизацию.

Слои перемешивания

nn.ChannelShuffle

Разделяет и переставляет каналы в тензоре.

Слои DataParallel (несколько GPU, распределённая обработка)

`nn.DataParallel`	Реализует параллелизм данных на уровне модуля.
`nn.parallel.DistributedDataParallel`	Реализует распределённый параллелизм данных на основе `torch.distributed` на уровне модуля.

Утилиты

Из модуля torch.nn.utils:

Вспомогательные функции для ограничения градиентов параметров.

`clip_grad_norm_`	Ограничивает норму градиента итерируемого объекта параметров.
`clip_grad_norm`	Ограничивает норму градиента итерируемого объекта параметров.
`clip_grad_value_`	Ограничивает градиенты итерируемого объекта параметров заданным значением.
`get_total_norm`	Вычисляет норму итерируемого объекта тензоров.
`clip_grads_with_norm_`	Масштабирует градиенты итерируемого объекта параметров с учётом предварительно вычисленной общей нормы и желаемой максимальной нормы.

Вспомогательные функции для преобразования параметров Module в один вектор и обратно.

`parameters_to_vector`	Преобразует итерируемый объект параметров в один вектор.
`vector_to_parameters`	Копирует срезы вектора в итерируемый объект параметров.

Вспомогательные функции для объединения модулей с модулями BatchNorm.

`fuse_conv_bn_eval`	Объединяет модуль свёртки и модуль BatchNorm в один новый модуль свёртки.
`fuse_conv_bn_weights`	Объединяет параметры модуля свёртки и модуля BatchNorm в параметры нового модуля свёртки.
`fuse_linear_bn_eval`	Объединяет линейный модуль и модуль BatchNorm в один новый линейный модуль.
`fuse_linear_bn_weights`	Объединяет параметры линейного модуля и модуля BatchNorm в параметры нового линейного модуля.

Вспомогательные функции для преобразования форматов памяти параметров Module.

`convert_conv2d_weight_memory_format`	Преобразует `memory_format` объекта `nn.Conv2d.weight` в `memory_format`.
`convert_conv3d_weight_memory_format`	Преобразует `memory_format` объекта `nn.Conv3d.weight` в `memory_format`. Преобразование рекурсивно применяется к вложенным объектам `nn.Module`, включая `module`.

Вспомогательные функции для применения и удаления нормализации весов параметров Module.

`weight_norm`	Применяет нормализацию весов к параметру указанного модуля.
`remove_weight_norm`	Удаляет репараметризацию нормализации весов из модуля.
`spectral_norm`	Применяет спектральную нормализацию к параметру указанного модуля.
`remove_spectral_norm`	Удаляет репараметризацию спектральной нормализации из модуля.

Вспомогательные функции для инициализации параметров Module.

skip_init

Создаёт экземпляр модуля по объекту класса модуля и аргументам args / kwargs, не инициализируя параметры / буферы.

Вспомогательные классы и функции для прореживания параметров Module.

`prune.BasePruningMethod`	Абстрактный базовый класс для создания новых методов прореживания.
`prune.PruningContainer`	Контейнер, содержащий последовательность методов прореживания для итеративного прореживания.
`prune.Identity`	Вспомогательный метод прореживания, который не удаляет никакие элементы, но создаёт параметризацию прореживания с маской из единиц.
`prune.RandomUnstructured`	Случайным образом прореживает элементы тензора, которые ещё не были прорежены.
`prune.L1Unstructured`	Прореживает элементы тензора, которые ещё не были прорежены, обнуляя элементы с наименьшей L1-нормой.
`prune.RandomStructured`	Случайным образом прореживает целые каналы тензора, которые ещё не были прорежены.
`prune.LnStructured`	Прореживает целые каналы тензора, которые ещё не были прорежены, на основе их L`n`-нормы.
`prune.CustomFromMask`
`prune.identity`	Применяет репараметризацию прореживания, не удаляя никаких элементов.
`prune.random_unstructured`	Прореживает тензор, удаляя случайные элементы, которые ещё не были прорежены.
`prune.l1_unstructured`	Прореживает тензор, удаляя элементы с наименьшей L1-нормой.
`prune.random_structured`	Прореживает тензор, удаляя случайные каналы вдоль указанного измерения.
`prune.ln_structured`	Прореживает тензор, удаляя каналы с наименьшей L`n`-нормой вдоль указанного измерения.
`prune.global_unstructured`	Выполняет глобальное прореживание тензоров, соответствующих всем параметрам в `parameters`, применяя указанный метод `pruning_method`.
`prune.custom_from_mask`	Прореживает тензор, соответствующий параметру с именем `name` в `module`, применяя предварительно вычисленную маску из `mask`.
`prune.remove`	Удаляет репараметризацию прореживания из модуля и метод прореживания из перехватчика forward.
`prune.is_pruned`	Проверяет, прорежен ли модуль, проверяя наличие предварительных перехватчиков прореживания.

Параметризации, реализованные с использованием новой функциональности параметризации в torch.nn.utils.parameterize.register_parametrization().

`parametrizations.orthogonal`	Применяет ортогональную или унитарную параметризацию к матрице или пакету матриц.
`parametrizations.weight_norm`	Применяет нормализацию весов к параметру указанного модуля.
`parametrizations.spectral_norm`	Применяет спектральную нормализацию к параметру указанного модуля.

Вспомогательные функции для параметризации тензоров в существующих модулях. Обратите внимание, что эти функции можно использовать для параметризации заданного параметра или буфера с помощью определённой функции, отображающей входное пространство в пространство параметризации. Они не являются параметризациями, преобразующими объект в параметр. Дополнительные сведения о реализации собственных параметризаций см. в руководстве по параметризациям.

`parametrize.register_parametrization`	Регистрирует параметризацию для тензора в модуле.
`parametrize.remove_parametrizations`	Удаляет параметризации тензора в модуле.
`parametrize.cached`	Менеджер контекста, включающий кеширование для параметризаций, зарегистрированных с помощью `register_parametrization()`.
`parametrize.is_parametrized`	Определяет, имеет ли модуль параметризацию.
`parametrize.transfer_parametrizations_and_params`	Переносит параметризации и параметры, которые они параметризуют, из `from_module` в `to_module`.
`parametrize.type_before_parametrizations`	Возвращает тип модуля до применения параметризаций; если параметризации не применялись, возвращает тип модуля.

parametrize.ParametrizationList

Последовательный контейнер, который хранит исходные параметры или буферы параметризованного torch.nn.Module и управляет ими.

Вспомогательные функции для вызова заданного Module без сохранения состояния.

stateless.functional_call

Выполняет функциональный вызов модуля, заменяя параметры и буферы модуля предоставленными значениями.

Вспомогательные функции из других модулей

`nn.utils.rnn.PackedSequence`	Содержит данные и список `batch_sizes` упакованной последовательности.
`nn.utils.rnn.pack_padded_sequence`	Упаковывает тензор, содержащий последовательности переменной длины с дополнением.
`nn.utils.rnn.pad_packed_sequence`	Дополняет упакованный пакет последовательностей переменной длины.
`nn.utils.rnn.pad_sequence`	Дополняет список тензоров переменной длины значением `padding_value`.
`nn.utils.rnn.pack_sequence`	Упаковывает список тензоров переменной длины.
`nn.utils.rnn.unpack_sequence`	Распаковывает PackedSequence в список тензоров переменной длины.
`nn.utils.rnn.unpad_sequence`	Удаляет дополнение из дополненного тензора и возвращает список тензоров переменной длины.
`nn.utils.rnn.invert_permutation`	Возвращает обратную перестановку `permutation`.
`nn.parameter.is_lazy`	Возвращает, является ли `param` объектом `UninitializedParameter` или `UninitializedBuffer`.
`nn.factory_kwargs`	Возвращает канонизированный словарь аргументов фабрики.

`nn.modules.flatten.Flatten`	Объединяет непрерывный диапазон измерений в тензоре.
`nn.modules.flatten.Unflatten`	Разворачивает измерение тензора, расширяя его до заданной формы.

Квантованные функции

Квантование — это методы выполнения вычислений и хранения тензоров с меньшей разрядностью, чем при вычислениях с плавающей точкой. PyTorch поддерживает асимметричное линейное квантование как по тензору, так и по каналам. Дополнительные сведения об использовании квантованных функций в PyTorch см. в документации по квантованию.

Инициализация ленивых модулей

nn.modules.lazy.LazyModuleMixin

Примесь для модулей, которые лениво инициализируют параметры; такие модули также называют «ленивыми модулями».

© 2026, PyTorch Contributors
PyTorch has a BSD-style license, as found in the LICENSE file.
https://docs.pytorch.org/docs/2.14/nn.html