tf.compat.v1.clip_by_average_norm

Ограничивает значения тензора до максимальной средней L2-нормы. (устаревшее)

tf.compat.v1.clip_by_average_norm(
    t, clip_norm, name=None
)

Учитывая тензор t, и максимальное значение ограничения clip_norm, данная операция нормализует t, так что его средняя L2-норма меньше или равна clip_norm. В частности, если средняя L2-норма уже меньше или равна clip_norm, то t не изменяется. Если средняя L2-норма больше clip_norm, то эта операция возвращает тензор того же типа и формы, что и t, со значениями, установленными следующим образом:

t * clip_norm / l2norm_avg(t)

В этом случае средняя L2-норма выходного тензора составляет clip_norm.

Обычно эта операция используется для ограничения градиентов перед их применением с оптимизатором.