tf.keras.backend.moving_average_update

Вычисление экспоненциального скользящего среднего значения.

tf.keras.backend.moving_average_update(
    x, value, momentum
)

Скользящее среднее 'x' обновляется с помощью 'value' следующим образом:

x = x * momentum + value * (1 - momentum)

Например:

x = tf.Variable(0.0)
momentum=0.9
moving_average_update(x, value = 2.0, momentum=momentum).numpy()
x.numpy()
0.2

Результат будет смещен в сторону начального значения переменной.

Если переменная была инициализирована нулём, вы можете разделить на 1 - momentum ** num_updates для её десмещения (Раздел 3 Kingma et al., 2015):

num_updates = 1.0
x_zdb = x/(1 - momentum**num_updates)
x_zdb.numpy()
2.0