tf.estimator.MultiLabelHead

Создаёт Head для многоклассовой классификации.

Наследуется от: Head

tf.estimator.MultiLabelHead(
    n_classes,
    weight_column=None,
    thresholds=None,
    label_vocabulary=None,
    loss_reduction=tf.losses.Reduction.SUM_OVER_BATCH_SIZE,
    loss_fn=None,
    classes_for_class_based_metrics=None,
    name=None
)

Многоклассовая классификация обрабатывает случаи, когда у каждого примера может быть ноль или более связанных меток из дискретного набора. Это отличается от MultiClassHead, у которой ровно одна метка на пример.

Использует sigmoid_cross_entropy потерь, усредняя по классам и взвешивая сумму по пакету. Иными словами, если входные логиты имеют форму [batch_size, n_classes], потери представляют собой среднее значение по n_classes и взвешенную сумму по batch_size.

Заголовок ожидает logits с формой [D0, D1, ... DN, n_classes]. Во многих приложениях форма имеет вид [batch_size, n_classes].

Метки могут быть:

• Многомерный тензор формы [D0, D1, ... DN, n_classes]
• Целое SparseTensor индексов классов. dense_shape должно быть [D0, D1, ... DN, ?], а значения внутри [0, n_classes).
• Если label_vocabulary задано, строковый SparseTensor. dense_shape должно быть [D0, D1, ... DN, ?], а значения внутри label_vocabulary или многомерный тензор формы [D0, D1, ... DN, n_classes].

Если weight_column указано, веса должны иметь форму [D0, D1, ... DN], или [D0, D1, ... DN, 1].

Также поддерживает пользовательские loss_fn. loss_fn принимает (labels, logits) или (labels, logits, features) в качестве аргументов и возвращает нередуцированные потери с формой [D0, D1, ... DN, 1]. loss_fn должен поддерживать индикатор labels с формой [D0, D1, ... DN, n_classes]. Иными словами, заголовок применяет label_vocabulary к входным меткам перед передачей их loss_fn.

Использование:

n_classes = 2
head = tf.estimator.MultiLabelHead(n_classes)
logits = np.array([[-1., 1.], [-1.5, 1.5]], dtype=np.float32)
labels = np.array([[1, 0], [1, 1]], dtype=np.int64)
features = {'x': np.array([[41], [42]], dtype=np.int32)}
# expected_loss = sum(_sigmoid_cross_entropy(labels, logits)) / batch_size
#               = sum(1.31326169, 0.9514133) / 2 = 1.13
loss = head.loss(labels, logits, features=features)
print('{:.2f}'.format(loss.numpy()))
1.13
eval_metrics = head.metrics()
updated_metrics = head.update_metrics(
  eval_metrics, features, logits, labels)
for k in sorted(updated_metrics):
 print('{} : {:.2f}'.format(k, updated_metrics[k].result().numpy()))
auc : 0.33
auc_precision_recall : 0.77
average_loss : 1.13
preds = head.predictions(logits)
print(preds['logits'])
tf.Tensor(
  [[-1.   1. ]
   [-1.5  1.5]], shape=(2, 2), dtype=float32)

Использование с готовым оценщиком:

my_head = tf.estimator.MultiLabelHead(n_classes=3)
my_estimator = tf.estimator.DNNEstimator(
    head=my_head,
    hidden_units=...,
    feature_columns=...)

Его также можно использовать с пользовательским model_fn. Пример:

def _my_model_fn(features, labels, mode):
  my_head = tf.estimator.MultiLabelHead(n_classes=3)
  logits = tf.keras.Model(...)(features)

  return my_head.create_estimator_spec(
      features=features,
      mode=mode,
      labels=labels,
      optimizer=tf.keras.optimizers.Adagrad(lr=0.1),
      logits=logits)

my_estimator = tf.estimator.Estimator(model_fn=_my_model_fn)

Методы

create_estimator_spec

Просмотреть исходный код

create_estimator_spec(
    features,
    mode,
    logits,
    labels=None,
    optimizer=None,
    trainable_variables=None,
    train_op_fn=None,
    update_ops=None,
    regularization_losses=None
)

Возвращает EstimatorSpec, которое может вернуть model_fn.

Рекомендуется передавать все аргументы через имя.

loss

Просмотреть исходный код

loss(
    labels, logits, features=None, mode=None, regularization_losses=None
)

Возвращает результирующие потери обучения. См. base_head.Head для получения подробной информации.

metrics

Просмотреть исходный код

metrics(
    regularization_losses=None
)

Создаёт метрики. См. base_head.Head для получения подробной информации.

predictions

Просмотреть исходный код

predictions(
    logits, keys=None
)

Возвращает предсказания на основе ключей.

См. base_head.Head для получения подробной информации.

update_metrics

Просмотреть исходный код

update_metrics(
    eval_metrics, features, logits, labels, regularization_losses=None
)

Обновляет метрики оценки. См. base_head.Head для получения подробной информации.