torch.nn

Это базовые строительные блоки для графов:

torch.nn

Контейнеры
Сверточные слои
Слои пулинга
Слои заполнения
Нелинейные активации (взвешенная сумма, нелинейность)
Нелинейные активации (другие)
Слои нормализации
Рекуррентные слои
Слои трансформатора
Линейные слои
Слои дропаута
Разреженные слои
Функции расстояния
Функции потерь
Слои компьютерного зрения
Слои перемешивания
Слои DataParallel (многопроцессорные, распределенные)
Утилиты
Квантованные функции
Инициализация ленивых модулей

`Parameter`	Вид тензора, который следует рассматривать как параметр модуля.
`UninitializedParameter`	Неинициализированный параметр.
`UninitializedBuffer`	Неинициализированный буфер.

Контейнеры

`Module`	Базовый класс для всех модулей нейронной сети.
`Sequential`	Последовательный контейнер.
`ModuleList`	Содержит подмодули в списке.
`ModuleDict`	Содержит подмодули в словаре.
`ParameterList`	Содержит параметры в списке.
`ParameterDict`	Содержит параметры в словаре.

Глобальные хуки для модуля

`register_module_forward_pre_hook`	Регистрирует предварительный хук для перехода вперед, общий для всех модулей.
`register_module_forward_hook`	Регистрирует глобальный хук для перехода вперед для всех модулей.
`register_module_backward_hook`	Регистрирует обратный хук, общий для всех модулей.
`register_module_full_backward_hook`	Регистрирует обратный хук, общий для всех модулей.

Сверточные слои

`nn.Conv1d`	Применяет 1D свертку к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.Conv2d`	Применяет 2D свертку к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.Conv3d`	Применяет 3D свертку к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.ConvTranspose1d`	Применяет 1D оператор транспонированной свертки к входному изображению, состоящему из нескольких входных плоскостей.
`nn.ConvTranspose2d`	Применяет 2D оператор транспонированной свертки к входному изображению, состоящему из нескольких входных плоскостей.
`nn.ConvTranspose3d`	Применяет 3D оператор транспонированной свертки к входному изображению, состоящему из нескольких входных плоскостей.
`nn.LazyConv1d`	Модуль `torch.nn.Conv1d` с ленивой инициализацией аргумента `in_channels` оператора `Conv1d`, который определяется по `input.size(1)`.
…	…

END_OF_DOCUMENT_MARKER

Слой пулинга

`nn.MaxPool1d`	Применяет 1D максимальный пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.MaxPool2d`	Применяет 2D максимальный пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.MaxPool3d`	Применяет 3D максимальный пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.MaxUnpool1d`	Вычисляет частичное обращение `MaxPool1d`.
`nn.MaxUnpool2d`	Вычисляет частичное обращение `MaxPool2d`.
`nn.MaxUnpool3d`	Вычисляет частичное обращение `MaxPool3d`.
`nn.AvgPool1d`	Применяет 1D средний пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.AvgPool2d`	Применяет 2D средний пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.AvgPool3d`	Применяет 3D средний пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.FractionalMaxPool2d`	Применяет 2D дробный максимальный пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.FractionalMaxPool3d`	Применяет 3D дробный максимальный пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.LPPool1d`	Применяет 1D пулинг с усреднением в степени к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.LPPool2d`	Применяет 2D пулинг с усреднением в степени к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.AdaptiveMaxPool1d`	Применяет 1D адаптивный максимальный пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.AdaptiveMaxPool2d`	Применяет 2D адаптивный максимальный пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.AdaptiveMaxPool3d`	Применяет 3D адаптивный максимальный пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.AdaptiveAvgPool1d`	Применяет 1D адаптивный средний пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.AdaptiveAvgPool2d`	Применяет 2D адаптивный средний пулинг к входному сигналу, состоящему из нескольких входных плоскостей.
`nn.AdaptiveAvgPool3d`	Применяет 3D адаптивный средний пулинг к входному сигналу, состоящему из нескольких входных плоскостей.

Слои заполнения

`nn.ReflectionPad1d`	Заполняет входной тензор, используя отражение границ.
`nn.ReflectionPad2d`	Заполняет входной тензор, используя отражение границ.
`nn.ReflectionPad3d`	Заполняет входной тензор, используя отражение границ.
`nn.ReplicationPad1d`	Заполняет входной тензор, используя копирование границ.
`nn.ReplicationPad2d`	Заполняет входной тензор, используя копирование границ.
`nn.ReplicationPad3d`	Заполняет входной тензор, используя копирование границ.
`nn.ZeroPad2d`	Заполняет границы входного тензора нулями.
`nn.ConstantPad1d`	Заполняет границы входного тензора константным значением.
`nn.ConstantPad2d`	Заполняет границы входного тензора константным значением.
`nn.ConstantPad3d`	Заполняет границы входного тензора константным значением.

Нелинейные активации (взвешенная сумма, нелинейность)

`nn.ELU`	Применяет функцию Exponential Linear Unit (ELU) поэлементно, как описано в статье: Fast and Accurate Deep Network Learning by Exponential Linear Units (ELUs).
`nn.Hardshrink`	Применяет функцию Hard Shrinkage (Hardshrink) поэлементно.
`nn.Hardsigmoid`	Применяет функцию Hardsigmoid поэлементно.
`nn.Hardtanh`	Применяет функцию HardTanh поэлементно.
`nn.Hardswish`	Применяет функцию Hardswish поэлементно, как описано в статье: Searching for MobileNetV3.
`nn.LeakyReLU`	Применяет поэлементную функцию:
`nn.LogSigmoid`	Применяет поэлементную функцию:
`nn.MultiheadAttention`	Позволяет модели совместно обращать внимание на информацию из различных подпространств представлений, как описано в статье: Attention Is All You Need.
`nn.PReLU`	Применяет поэлементную функцию:
`nn.ReLU`	Применяет функцию выпрямленного линейного блока (ReLU) поэлементно:
`nn.ReLU6`	Применяет поэлементную функцию:
`nn.RReLU`	Применяет функцию случайного утечки выпрямленного линейного блока (RReLU) поэлементно, как описано в статье:
`nn.SELU`	Применяется поэлементно, как:
`nn.CELU`	Применяет поэлементную функцию:
`nn.GELU`	Применяет функцию Гауссовских ошибок линейного блока (GELU):
`nn.Sigmoid`	Применяет поэлементную функцию:
`nn.SiLU`	Применяет функцию Sigmoid Linear Unit (SiLU) поэлементно.
`nn.Mish`	Применяет функцию Mish поэлементно.
`nn.Softplus`	Применяет функцию Softplus $\text{Softplus}(x) = \frac{1}{\beta} * \log(1 + \exp(\beta * x))$ поэлементно.
`nn.Softshrink`	Применяет функцию мягкого сжатия поэлементно:
`nn.Softsign`	Применяет поэлементную функцию:
`nn.Tanh`	Применяет гиперболическую тангенс (Tanh) функцию поэлементно.
`nn.Tanhshrink`	Применяет поэлементную функцию:
`nn.Threshold`	Устанавливает порог для каждого элемента тензора.
`nn.GLU`	Применяет функцию линейного блока с шлюзом ${GLU}(a, b)= a \otimes \sigma(b)$ где $a$ - первая половина входных матриц, а $b$ - вторая половина.

Нелинейные активации (другие)

`nn.Softmin`	Применяет функцию Softmin к тензору n-мерного ввода, масштабируя их так, чтобы элементы n-мерного выходного тензора лежали в диапазоне `[0, 1]` и суммировались до 1.
`nn.Softmax`	Применяет функцию Softmax к n-мерному входному тензору, масштабируя их так, чтобы элементы n-мерного выходного тензора лежали в диапазоне [0,1] и суммировались до 1.
`nn.Softmax2d`	Применяет SoftMax по признакам к каждому пространственному положению.
`nn.LogSoftmax`	Применяет функцию $\log(\text{Softmax}(x))$ к n-мерному входному тензору.
`nn.AdaptiveLogSoftmaxWithLoss`	Эффективное приближение softmax, как описано в Efficient softmax approximation for GPUs by Edouard Grave, Armand Joulin, Moustapha Cissé, David Grangier, and Hervé Jégou.

END_OF_DOCUMENT_MARKER

Слои нормализации

`nn.BatchNorm1d`	Применяет пакетную нормализацию к двумерному или трехмерному входу, как описано в статье Batch Normalization: Ускорение обучения глубоких сетей путем уменьшения смещения внутренних ковариаций.
`nn.BatchNorm2d`	Применяет пакетную нормализацию к 4-мерному входу (микро-пакет 2-мерных входов с дополнительным канальным измерением), как описано в статье Batch Normalization: Ускорение обучения глубоких сетей путем уменьшения смещения внутренних ковариаций.
`nn.BatchNorm3d`	Применяет пакетную нормализацию к 5-мерному входу (микро-пакет 3-мерных входов с дополнительным канальным измерением), как описано в статье Batch Normalization: Ускорение обучения глубоких сетей путем уменьшения смещения внутренних ковариаций.
`nn.LazyBatchNorm1d`	Модуль `torch.nn.BatchNorm1d` с леничной инициализацией аргумента `num_features` модуля `BatchNorm1d`, который определяется из `input.size(1)`.
`nn.LazyBatchNorm2d`	Модуль `torch.nn.BatchNorm2d` с леничной инициализацией аргумента `num_features` модуля `BatchNorm2d`, который определяется из `input.size(1)`.
`nn.LazyBatchNorm3d`	Модуль `torch.nn.BatchNorm3d` с леничной инициализацией аргумента `num_features` модуля `BatchNorm3d`, который определяется из `input.size(1)`.
`nn.GroupNorm`	Применяет групповую нормализацию к микро-пакету входов, как описано в статье Group Normalization
`nn.SyncBatchNorm`	Применяет пакетную нормализацию к N-мерному входу (микро-пакет [N-2]-мерных входов с дополнительным канальным измерением), как описано в статье Batch Normalization: Ускорение обучения глубоких сетей путем уменьшения смещения внутренних ковариаций.
`nn.InstanceNorm1d`	Применяет нормализацию по экземпляру к двумерному (без пакетности) или трехмерному (с пакетностью) входу, как описано в статье Instance Normalization: Пропущенный ингредиент для быстрой стилизации.
`nn.InstanceNorm2d`	Применяет нормализацию по экземпляру к 4-мерному входу (микро-пакет 2-мерных входов с дополнительным канальным измерением), как описано в статье Instance Normalization: Пропущенный ингредиент для быстрой стилизации.
`nn.InstanceNorm3d`	Применяет нормализацию по экземпляру к 5-мерному входу (микро-пакет 3-мерных входов с дополнительным канальным измерением), как описано в статье Instance Normalization: Пропущенный ингредиент для быстрой стилизации.
`nn.LazyInstanceNorm1d`	Модуль `torch.nn.InstanceNorm1d` с леничной инициализацией аргумента `num_features` модуля `InstanceNorm1d`, который определяется из `input.size(1)`.
`nn.LazyInstanceNorm2d`	Модуль `torch.nn.InstanceNorm2d` с леничной инициализацией аргумента `num_features` модуля `InstanceNorm2d`, который определяется из `input.size(1)`.
`nn.LazyInstanceNorm3d`	Модуль `torch.nn.InstanceNorm3d` с леничной инициализацией аргумента `num_features` модуля `InstanceNorm3d`, который определяется из `input.size(1)`.
`nn.LayerNorm`	Применяет нормализацию по слоям к микро-пакету входов, как описано в статье Layer Normalization
`nn.LocalResponseNorm`	Применяет локальную нормализацию по ответу к входному сигналу, состоящему из нескольких входных плоскостей, где каналы занимают второе измерение.

Рекуррентные слои

`nn.RNNBase`
`nn.RNN`	Применяет многослойный рекуррентный модуль Элмана с нелинейностью $\tanh$ или $\text{ReLU}$ к последовательности ввода.
`nn.LSTM`	Применяет многослойный рекуррентный модуль LSTM (долгосрочная краткосрочная память) к последовательности ввода.
`nn.GRU`	Применяет многослойный рекуррентный модуль GRU (узел с управляемым повторением) к последовательности ввода.
`nn.RNNCell`	Ячейка рекуррентного модуля Элмана с нелинейностью tanh или ReLU.
`nn.LSTMCell`	Ячейка LSTM (долгосрочной краткосрочной памяти).
`nn.GRUCell`	Ячейка GRU (узел с управляемым повторением)

Слои трансформатора

`nn.Transformer`	Модель трансформатора.
`nn.TransformerEncoder`	TransformerEncoder — это стопка N слоев кодировщика.
`nn.TransformerDecoder`	TransformerDecoder — это стопка N слоев декодировщика
`nn.TransformerEncoderLayer`	TransformerEncoderLayer состоит из само-внимания и сети прямого прохода.
`nn.TransformerDecoderLayer`	TransformerDecoderLayer состоит из само-внимания, многоголового внимания и сети прямого прохода.

Линейные слои

`nn.Identity`	Оператор тождества-заполнитель, не зависящий от аргумента.
`nn.Linear`	Применяет линейное преобразование к входным данным: $y = xA^T + b$
`nn.Bilinear`	Применяет билинейное преобразование к входным данным: $y = x_1^T A x_2 + b$
`nn.LazyLinear`	Модуль `torch.nn.Linear`, где `in_features` выводится.

Слои Dropout

`nn.Dropout`	Во время обучения случайным образом обнуляет некоторые элементы тензора входных данных с вероятностью `p` используя выборки из распределения Бернулли.
`nn.Dropout1d`	Случайным образом обнуляет целые каналы (канал — это 1D карта признаков, например, $j$ -й канал $i$ -й выборки в пакетном входе — это 1D тензор $\text{input}[i, j]$ ).
`nn.Dropout2d`	Случайным образом обнуляет целые каналы (канал — это 2D карта признаков, например, $j$ -й канал $i$ -й выборки в пакетном входе — это 2D тензор $\text{input}[i, j]$ ).
`nn.Dropout3d`	Случайным образом обнуляет целые каналы (канал — это 3D карта признаков, например, $j$ -й канал $i$ -й выборки в пакетном входе — это 3D тензор $\text{input}[i, j]$ ).
`nn.AlphaDropout`	Применяет Alpha Dropout к входу.
`nn.FeatureAlphaDropout`	Случайным образом маскирует целые каналы (канал — это карта признаков, например)

Разреженные слои

`nn.Embedding`	Простая таблица поиска, которая хранит вложения фиксированного словаря и размера.
`nn.EmbeddingBag`	Вычисляет суммы или средние значения 'мешков' вложений без создания промежуточных вложений.

Функции расстояния

`nn.CosineSimilarity`	Возвращает косинусное сходство между $x_1$ и $x_2$ , вычисленное по `dim`.
`nn.PairwiseDistance`	Вычисляет парное расстояние между векторами ввода или между столбцами матриц ввода.

Функции потерь

`nn.L1Loss`	Создает критерий, который измеряет среднюю абсолютную ошибку (MAE) между каждым элементом ввода $x$ и целевым значением $y$ .
`nn.MSELoss`	Создает критерий, который измеряет среднеквадратичную ошибку (квадратную L2 норму) между каждым элементом ввода $x$ и целевым значением $y$ .
`nn.CrossEntropyLoss`	Этот критерий вычисляет потерю кросс-энтропии между входными логами и целевым значением.
`nn.CTCLoss`	Потеря классификации временных последовательностей (Connectionist Temporal Classification).
`nn.NLLLoss`	Потеря отрицательного логарифмического правдоподобия.
`nn.PoissonNLLLoss`	Потеря отрицательного логарифмического правдоподобия с распределением Пуассона для целевого значения.
`nn.GaussianNLLLoss`	Потеря отрицательного логарифмического правдоподобия Гаусса.
`nn.KLDivLoss`	Потеря расхождения Кульбака-Лейблера.
`nn.BCELoss`	Создает критерий, который измеряет бинарную кросс-энтропию между целевым значением и вероятностями ввода:
`nn.BCEWithLogitsLoss`	Эта потеря объединяет слой `Sigmoid` и `BCELoss` в один класс.
`nn.MarginRankingLoss`	Создает критерий, который измеряет потерю, учитывая входы $x1$ , $x2$ , два 1D мини-пакета или 0D `Tensors`, и метку 1D мини-пакет или 0D `Tensor` $y$ (содержащую 1 или -1).
`nn.HingeEmbeddingLoss`	Измеряет потерю, учитывая входной тензор $x$ и тензор меток $y$ (содержащий 1 или -1).
`nn.MultiLabelMarginLoss`	Создает критерий, который оптимизирует многоклассовую многоклассовую потерю хинджа (основанную на отступе) между входом $x$ (2D мини-пакет `Tensor`) и выходом $y$ (который является 2D `Tensor` индексов целевого класса).
`nn.HuberLoss`	Создает критерий, который использует квадратный член, если абсолютная ошибка по элементам меньше дельта, и член дельта, умноженный на L1, в противном случае.
`nn.SmoothL1Loss`	Создает критерий, который использует квадратный член, если абсолютная ошибка по элементам меньше бета, и член L1 в противном случае.
`nn.SoftMarginLoss`	Создает критерий, который оптимизирует логистическую потерю двухклассовой классификации между входным тензором $x$ и целевым тензором $y$ (содержащим 1 или -1).
`nn.MultiLabelSoftMarginLoss`	Создает критерий, который оптимизирует потерю по методу «один против всех» для многомерной классификации на основе максимума энтропии между входом $x$ и целевым значением $y$ размера $(N, C)$ .
`nn.CosineEmbeddingLoss`	Создает критерий, который измеряет потерю, учитывая входные тензоры $x_1$ , $x_2$ и метку `Tensor` $y$ со значениями 1 или -1.
`nn.MultiMarginLoss`	Создает критерий, который оптимизирует многоклассовую классификационную потерю хинджа (основанную на отступе) между входом $x$ (2D мини-пакет `Tensor`) и выходом $y$ (который является 1D тензором индексов целевого класса, $0 \leq y \leq \text{x.size}(1)-1$ ):

nn.TripletMarginLoss

Создаёт критерий, который измеряет потерю тройки, используя входные тензоры $x1$ , $x2$ , $x3$ и границу со значением, большим $0$ .

nn.TripletMarginWithDistanceLoss

Создаёт критерий, который измеряет потерю тройки, используя входные тензоры $a$ , $p$ и $n$ (представляющие соответственно якорь, положительный и отрицательный примеры), и неотрицательную вещественную функцию («функция расстояния»), используемую для вычисления взаимосвязи между якорем и положительным примером («положительное расстояние») и якорем и отрицательным примером («отрицательное расстояние»).

Функции обработки изображений

`nn.PixelShuffle`	Переупорядочивает элементы в тензоре формы $(, C \times r^2, H, W)$ в тензор формы $(, C, H \times r, W \times r)$ , где r – коэффициент масштабирования.
`nn.PixelUnshuffle`	Обратный процесс к `PixelShuffle`, переупорядочивает элементы в тензоре формы $(, C, H \times r, W \times r)$ в тензор формы $(, C \times r^2, H, W)$ , где r – коэффициент уменьшения.
`nn.Upsample`	Увеличивает масштаб заданных многоканальных 1D (временных), 2D (пространственных) или 3D (объёмных) данных.
`nn.UpsamplingNearest2d`	Применяет двумерное ближайшее-соседнее увеличение масштаба к входному сигналу, состоящему из нескольких входных каналов.
`nn.UpsamplingBilinear2d`	Применяет двумерное билинейное увеличение масштаба к входному сигналу, состоящему из нескольких входных каналов.

Слои перемешивания

nn.ChannelShuffle

Разделяет каналы в тензоре формы $(*, C , H, W)$ на g групп и переупорядочивает их как $(*, C \frac g, g, H, W)$ , сохраняя при этом исходную форму тензора.

Слои DataParallel (многопроцессорные, распределённые)

`nn.DataParallel`	Реализует распределение данных на уровне модуля.
`nn.parallel.DistributedDataParallel`	Реализует распределённое распределение данных, основанное на пакете `torch.distributed` на уровне модуля.

Утилиты

Из модуля torch.nn.utils

`clip_grad_norm_`	Обрезает норму градиента итерируемого набора параметров.
`clip_grad_value_`	Обрезает градиент итерируемого набора параметров до указанного значения.
`parameters_to_vector`	Преобразовать параметры в один вектор
`vector_to_parameters`	Преобразовать один вектор в параметры
`prune.BasePruningMethod`	Абстрактный базовый класс для создания новых техник обрезки.

`prune.PruningContainer`	Контейнер, содержащий последовательность методов обрезки для итеративной обрезки.
`prune.Identity`	Утилитарный метод обрезки, который не обрезает единицы, но генерирует параметризацию обрезки с маской из единиц.
`prune.RandomUnstructured`	Случайно обрезает (в настоящее время не обрезанные) единицы в тензоре.
`prune.L1Unstructured`	Обрезает (в настоящее время не обрезанные) единицы в тензоре, обнуляя те, у которых наименьшая норма L1.
`prune.RandomStructured`	Случайно обрезает целые (в настоящее время не обрезанные) каналы в тензоре.
`prune.LnStructured`	Обрезает целые (в настоящее время не обрезанные) каналы в тензоре на основе их L`n`-нормы.
`prune.CustomFromMask`
`prune.identity`	Применяет параметризацию обрезки к тензору, соответствующему параметру, названному `name` в `module`, без фактической обрезки каких-либо единиц.
`prune.random_unstructured`	Обрезает тензор, соответствующий параметру, названному `name` в `module`, удаляя указанную `amount` часть (в настоящее время не обрезанных) единиц, выбранных случайным образом.
`prune.l1_unstructured`	Обрезает тензор, соответствующий параметру, названному `name` в `module`, удаляя указанную `amount` часть (в настоящее время не обрезанных) единиц с наименьшей нормой L1.
`prune.random_structured`	Обрезает тензор, соответствующий параметру, названному `name` в `module`, удаляя указанную `amount` часть (в настоящее время не обрезанных) каналов вдоль указанного `dim` случайным образом.
`prune.ln_structured`	Обрезает тензор, соответствующий параметру, названному `name` в `module`, удаляя указанную `amount` часть (в настоящее время не обрезанных) каналов вдоль указанного `dim` с наименьшей L`n`-нормой.
`prune.global_unstructured`	Глобально обрезает тензоры, соответствующие всем параметрам в `parameters`, применяя указанную `pruning_method`.
`prune.custom_from_mask`	Обрезает тензор, соответствующий параметру, названному `name` в `module`, применяя предварительно вычисленную маску в `mask`.
`prune.remove`	Удаляет параметризацию обрезки из модуля и метод обрезки из обратного хука.
`prune.is_pruned`	Проверить, обрезан ли `module` , найдя `forward_pre_hooks` в его модулях, которые унаследованы от `BasePruningMethod`.
`weight_norm`	Применяет нормализацию весов к параметру в заданном модуле.
`remove_weight_norm`	Удаляет параметризацию нормализации весов из модуля.
`spectral_norm`	Применяет спектральную нормализацию к параметру в заданном модуле.
`remove_spectral_norm`	Удаляет параметризацию спектральной нормализации из модуля.
`skip_init`	Учитывая объект класса модуля и args/kwargs, инициализирует модуль без инициализации параметров/буферов.

Параметризации, реализованные с помощью новой функциональности параметризации в torch.nn.utils.parameterize.register_parametrization().

`parametrizations.orthogonal`	Применяет ортогональную или унитарную параметризацию к матрице или набору матриц.
`parametrizations.spectral_norm`	Применяет спектральную нормализацию к параметру в заданном модуле.

Утилитарные функции для параметризации тензоров в существующих модулях. Обратите внимание, что эти функции могут использоваться для параметризации заданного параметра или буфера, заданного определенной функцией, которая отображает из входного пространства в параметризованное пространство. Они не являются параметризациями, которые преобразуют объект в параметр. См. учебник по параметризациям для получения дополнительной информации о том, как реализовать собственные параметризации.

`parametrize.register_parametrization`	Добавляет параметризацию к тензору в модуле.
`parametrize.remove_parametrizations`	Удаляет параметризации из тензора в модуле.
`parametrize.cached`	Менеджер контекста, который включает систему кэширования в параметризациях, зарегистрированных с `register_parametrization()`.
`parametrize.is_parametrized`	Возвращает `True` если модуль имеет активную параметризацию.

parametrize.ParametrizationList

Последовательная контейнер, содержащий и управляющий параметрами или буферами, original или original0, original1, .

Функции-утилиты для вызова данного модуля в бессостоятельном режиме.

stateless.functional_call

Выполняет функциональный вызов модуля, заменяя параметры и буферы модуля предоставленными.

Функции-утилиты в других модулях

`nn.utils.rnn.PackedSequence`	Содержит данные и список `batch_sizes` упакованной последовательности.
`nn.utils.rnn.pack_padded_sequence`	Упаковывает тензор, содержащий заполненные последовательности переменной длины.
`nn.utils.rnn.pad_packed_sequence`	Заполняет упакованную партию последовательностей переменной длины.
`nn.utils.rnn.pad_sequence`	Заполняет список тензоров переменной длины с `padding_value`
`nn.utils.rnn.pack_sequence`	Упаковывает список тензоров переменной длины

`nn.Flatten`	Разворачивает непрерывный диапазон измерений в тензор.
`nn.Unflatten`	Развертывает тензор, расширяя его до желаемой формы.

Функции квантования

Квантование относится к методам вычислений и хранения тензоров с меньшей разрядностью, чем с плавающей точкой. PyTorch поддерживает как линейное асимметричное квантование по тензору, так и по каналу. Для получения более подробной информации о том, как использовать квантованные функции в PyTorch, обратитесь к документации по квантованию.

Инициализация ленивых модулей

nn.modules.lazy.LazyModuleMixin

Mixin для модулей, которые лениво инициализируют параметры, также известные как «ленивые модули».

© 2024, PyTorch Contributors
PyTorch has a BSD-style license, as found in the LICENSE file.
https://pytorch.org/docs/1.13/nn.html