tf.raw_ops.LRN

Локальная нормализация отклика.

tf.raw_ops.LRN(
    input, depth_radius=5, bias=1, alpha=1, beta=0.5, name=None
)

Четырёхмерный тензор input рассматривается как трёхмерный массив одномерных векторов (по последнему измерению), и каждый вектор нормализуется независимо. В рамках данного вектора каждый компонент делится на взвешенную, возведённую в квадрат сумму входов в пределах depth_radius. Подробнее,

sqr_sum[a, b, c, d] =
    sum(input[a, b, c, d - depth_radius : d + depth_radius + 1] ** 2)
output = input / (bias + alpha * sqr_sum) ** beta

Подробности см. в Krizhevsky и др., Изображение классификации с глубокими свёрточными нейронными сетями (NIPS 2012).