tf.nn.softmax_cross_entropy_with_logits

Вычисляет софтмакс перекрёстную энтропию между logits и labels.

tf.nn.softmax_cross_entropy_with_logits(
    labels, logits, axis=-1, name=None
)

Измеряет вероятностную ошибку в задачах дискретной классификации, в которых классы взаимоисключают (каждый элемент относится ровно к одному классу). Например, каждый образ CIFAR-10 помечен единственным меткой: изображение может быть собакой или грузовиком, но не тем и другим одновременно.

Примечание: Хотя классы взаимоисключают, их вероятности необязательно должны быть таковыми. Всё, что требуется, это то, что каждая строка labels представляет собой допустимое распределение вероятностей. Если это не так, вычисление градиента будет неверным.

Если используется исключительная labels (в которой один и только один класс истинен в данный момент), см. sparse_softmax_cross_entropy_with_logits.

Использование:

logits = [[4.0, 2.0, 1.0], [0.0, 5.0, 1.0]]
labels = [[1.0, 0.0, 0.0], [0.0, 0.8, 0.2]]
tf.nn.softmax_cross_entropy_with_logits(labels=labels, logits=logits)
<tf.Tensor: shape=(2,), dtype=float32,
numpy=array([0.16984604, 0.82474494], dtype=float32)>

Общим случаем использования является наличие логарифмов и меток формы [batch_size, num_classes], но поддерживаются и более высокие размерности, при этом axis аргумент определяет размерность класса.

logits и labels должны иметь одинаковый тип данных (либо float16, float32, или float64).

Обратное распространение будет происходить как в logits, так и в labels. Чтобы запретить обратное распространение в labels, передайте тензоры меток через tf.stop_gradient перед подачей их в эту функцию.

Обратите внимание, что для избежания путаницы требуется передавать только именованные аргументы в эту функцию.