tf.keras.losses.KLDivergence
| Просмотреть исходный код на GitHub |
Вычисляет потерю расхождения Куллбека-Лейблера между y_true и y_pred.
tf.keras.losses.KLDivergence(
reduction=losses_utils.ReductionV2.AUTO, name='kl_divergence'
)
loss = y_true * log(y_true / y_pred)
См.: https://en.wikipedia.org/wiki/Kullback%E2%80%93Leibler_divergence
Использование в автономном режиме:
y_true = [[0, 1], [0, 0]] y_pred = [[0.6, 0.4], [0.4, 0.6]] # Using 'auto'/'sum_over_batch_size' reduction type. kl = tf.keras.losses.KLDivergence() kl(y_true, y_pred).numpy() 0.458
# Calling with 'sample_weight'. kl(y_true, y_pred, sample_weight=[0.8, 0.2]).numpy() 0.366
# Using 'sum' reduction type.
kl = tf.keras.losses.KLDivergence(
reduction=tf.keras.losses.Reduction.SUM)
kl(y_true, y_pred).numpy()
0.916
# Using 'none' reduction type.
kl = tf.keras.losses.KLDivergence(
reduction=tf.keras.losses.Reduction.NONE)
kl(y_true, y_pred).numpy()
array([0.916, -3.08e-06], dtype=float32)
Использование с API compile():
model.compile(optimizer='sgd', loss=tf.keras.losses.KLDivergence())
| Аргументы | |
|---|---|
reduction | (Необязательно) Тип tf.keras.losses.Reduction для применения к потере. Значение по умолчанию — AUTO. AUTO указывает, что параметр reduction будет определяться контекстом использования. В почти всех случаях по умолчанию он равен SUM_OVER_BATCH_SIZE. При использовании с tf.distribute.Strategy за пределами встроенных циклов обучения, таких как tf.keras compile и fit, использование AUTO или SUM_OVER_BATCH_SIZE вызовет ошибку. Подробнее см. этот учебник по настройке обучения tutorial. |
name | Необязательное имя для операции. По умолчанию — 'kl_divergence'. |
Методы
from_config
@classmethod
from_config(
config
)
Инициализирует Loss по его конфигурации (результат get_config()).
| Аргументы | |
|---|---|
config | Результат get_config(). |
| Возвращает | |
|---|---|
Экземпляр Loss . |
get_config
get_config()
Возвращает словарь конфигурации для экземпляра Loss.
__call__
__call__(
y_true, y_pred, sample_weight=None
)
Вызывает экземпляр Loss.
| Аргументы | |
|---|---|
y_true | Значения целевой переменной. форма = [batch_size, d0, .. dN], за исключением функций потерь с разреженными данными, таких как sparse categorical crossentropy, где форма = [batch_size, d0, .. dN-1] |
y_pred | Предсказанные значения. форма = [batch_size, d0, .. dN] |
sample_weight | Необязательный sample_weight выступает в качестве коэффициента для потери. Если предоставлена скалярная величина, то потеря просто масштабируется на заданное значение. Если sample_weight является тензором размера [batch_size], то общая потеря для каждой выборки пакета масштабируется соответствующим элементом в векторе sample_weight. Если форма sample_weight имеет вид [batch_size, d0, .. dN-1] (или может быть масштабирована до этой формы), то каждый элемент потери y_pred масштабируется соответствующим значением из sample_weight. (Примечание о dN-1: все функции потерь уменьшают размерность на 1, обычно по оси -1.) |
| Возвращает | |
|---|---|
Вещественное значение взвешенной потери Tensor. Если reduction равно NONE, форма этого значения — [batch_size, d0, .. dN-1]; в противном случае — скаляр. (Примечание dN-1 потому что все функции потерь уменьшают размерность на 1, обычно по оси -1.) |
| Возможные исключения | |
|---|---|
ValueError | Если форма sample_weight неверна. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/keras/losses/KLDivergence