tf.compat.v1.nn.fused_batch_norm

Базовая нормализация.

tf.compat.v1.nn.fused_batch_norm(
    x, scale, offset, mean=None, variance=None, epsilon=0.001,
    data_format='NHWC', is_training=True, name=None,
    exponential_avg_factor=1.0
)

См. исходный код: Нормализация по батчам: ускорение обучения глубоких нейронных сетей за счет уменьшения смещения внутренних ковариаций; С. Иоффе, К. Шзегеди.

Аргументы
`x`	Вход `Tensor` размерности 4 или 5.
`scale`	`Tensor` размерности 1 для масштабирования.
`offset`	`Tensor` размерности 1 для смещения.
`mean`	`Tensor` размерности 1 для выборочного среднего. Форма и смысл этого аргумента зависят от значения is_training и exponential_avg_factor следующим образом: is_trainingFalse (вывод): Среднее должно быть `Tensor` той же формы, что и масштаб, содержащий оцененное выборочное среднее, вычисленное во время обучения. is_trainingTrue и exponential_avg_factor == 1.0: Среднее должно быть None. is_trainingTrue и exponential_avg_factor != 1.0: Среднее должно быть `Tensor` той же формы, что и масштаб, содержащий экспоненциально усредненное среднее.
`variance`	`Tensor` размерности 1 для выборочной дисперсии. Форма и смысл этого аргумента зависят от значения is_training и exponential_avg_factor следующим образом: is_trainingFalse (вывод): Дисперсия должна быть `Tensor` той же формы, что и масштаб, содержащий оцененную выборочную дисперсию, вычисленную во время обучения. is_training==True и exponential_avg_factor == 1.0: Дисперсия должна быть None. is_training==True и exponential_avg_factor != 1.0: Дисперсия должна быть `Tensor` той же формы, что и масштаб, содержащий экспоненциально усредненную дисперсию.
`epsilon`	Малое число с плавающей точкой, добавляемое к дисперсии x.
`data_format`	Формат данных для x. Поддерживаются "NHWC" (по умолчанию) или "NCHW" для 4D тензоров и "NDHWC" или "NCDHW" для 5D тензоров.
`is_training`	Значение bool для указания, используется ли операция для обучения или вывода.
`name`	Имя для этой операции (необязательно).
`exponential_avg_factor`	Число с плавающей точкой (обычно от 0 до 1), используемое для управления убыванием экспоненциально усредненного выборочного среднего значения среднего и дисперсии. Если задано значение 1.0, возвращается текущее среднее значение батча.

Возвращаемые значения
`y`	4D или 5D тензор для нормированного, масштабированного, смещенного x.
`running_mean`	1D тензор для экспоненциально усредненного выборочного среднего x. Значение выхода равно (1 - exponential_avg_factor) * mean + exponential_avg_factor * batch_mean), где batch_mean — среднее значение текущего батча в x.
`running_var`	1D тензор для экспоненциально усредненной выборочной дисперсии. Значение выхода равно (1 - exponential_avg_factor) * variance + exponential_avg_factor * batch_variance), где batch_variance — дисперсия текущего батча в x.

Ссылки:

Нормализация по батчам - Ускорение обучения глубоких нейронных сетей за счет уменьшения смещения внутренних ковариаций: Ioffe и др., 2015 (pdf)

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/compat/v1/nn/fused_batch_norm