tf.compat.v2.keras.losses.Reduction

Типы уменьшения потерь.

Содержит следующие значения:

• AUTO: Указывает, что параметр уменьшения будет определяться контекстом использования. Практически во всех случаях по умолчанию это SUM_OVER_BATCH_SIZE. При использовании с tf.distribute.Strategy вне встроенных циклов обучения, таких как tf.keras compile и fit, ожидается, что значение reduction будет SUM или NONE. Использование AUTO в этом случае вызовет ошибку.
• NONE: Весовые потери с уменьшением по одному измерению (axis=-1 или указанному функцией потерь). При использовании этого типа уменьшения со встроенными циклами обучения Keras, такими как fit/evaluate, вектор потерь без уменьшения передаётся в оптимизатор, но отчётные потери будут скалярным значением.
• SUM: Скалярная сумма взвешенных потерь.

• SUM_OVER_BATCH_SIZE: Скалярная SUM, делённая на количество элементов в потерях. Этот тип уменьшения не поддерживается при использовании с tf.distribute.Strategy вне встроенных циклов обучения, таких как tf.keras compile/fit.

  Вы можете реализовать 'SUM_OVER_BATCH_SIZE' используя глобальный размер пакета:

with strategy.scope():
  loss_obj = tf.keras.losses.CategoricalCrossentropy(
      reduction=tf.keras.losses.Reduction.NONE)
  ....
  loss = tf.reduce_sum(loss_object(labels, predictions)) *
      (1. / global_batch_size)

Дополнительные сведения см. в https://www.tensorflow.org/alpha/tutorials/distribute/training_loops.

Методы

all

Просмотреть исходный код

@classmethod
all()

validate

Просмотреть исходный код

@classmethod
validate(
    key
)

Переменные класса

• AUTO = 'auto'
• NONE = 'none'
• SUM = 'sum'
• SUM_OVER_BATCH_SIZE = 'sum_over_batch_size'