Spec-Zone.ru › TensorFlow 2.3

tf.estimator.MultiLabelHead

Просмотр исходного кода на GitHub

Создаёт Head для многоклассовой классификации.

Наследуется от: Head

Просмотр псевдонимов

Псевдонимы для миграции

См. Руководство по миграции для получения дополнительных сведений.

tf.compat.v1.estimator.MultiLabelHead

tf.estimator.MultiLabelHead(
    n_classes, weight_column=None, thresholds=None, label_vocabulary=None,
    loss_reduction=losses_utils.ReductionV2.SUM_OVER_BATCH_SIZE, loss_fn=None,
    classes_for_class_based_metrics=None, name=None
)

Многоклассовая классификация обрабатывает случай, когда каждый пример может иметь ноль или более связанных меток из дискретного набора. Это отличается от MultiClassHead, которая имеет ровно одну метку на пример.

Использует sigmoid_cross_entropy функцию потерь, усреднённую по классам и взвешенную сумму по пакету. Иными словами, если входные логарифмы имеют форму [batch_size, n_classes], потери представляют собой среднее значение по n_classes и взвешенную сумму по batch_size.

Этот заголовок ожидает logits с формой [D0, D1, ... DN, n_classes]. Во многих приложениях форма представляет собой [batch_size, n_classes].

Метки могут быть:

  • Многоточечный тензор формы [D0, D1, ... DN, n_classes]
  • Целочисленный SparseTensor индексов классов. dense_shape должны быть [D0, D1, ... DN, ?], а значения внутри [0, n_classes).
  • Если label_vocabulary задан, строковый SparseTensor. dense_shape должны быть [D0, D1, ... DN, ?], а значения внутри label_vocabulary или многоточечный тензор формы [D0, D1, ... DN, n_classes].

Если weight_column указан, веса должны иметь форму [D0, D1, ... DN], или [D0, D1, ... DN, 1].

Также поддерживает настраиваемую loss_fn. loss_fn принимает (labels, logits) или (labels, logits, features) в качестве аргументов и возвращает нередуцированные потери с формой [D0, D1, ... DN, 1]. loss_fn должна поддерживать индикатор labels с формой [D0, D1, ... DN, n_classes]. Иными словами, заголовок применяет label_vocabulary к входным меткам перед передачей их loss_fn.

Использование:

n_classes = 2
head = tf.estimator.MultiLabelHead(n_classes)
logits = np.array([[-1., 1.], [-1.5, 1.5]], dtype=np.float32)
labels = np.array([[1, 0], [1, 1]], dtype=np.int64)
features = {'x': np.array([[41], [42]], dtype=np.int32)}
# expected_loss = sum(_sigmoid_cross_entropy(labels, logits)) / batch_size
#               = sum(1.31326169, 0.9514133) / 2 = 1.13
loss = head.loss(labels, logits, features=features)
print('{:.2f}'.format(loss.numpy()))
1.13
eval_metrics = head.metrics()
updated_metrics = head.update_metrics(
  eval_metrics, features, logits, labels)
for k in sorted(updated_metrics):
 print('{} : {:.2f}'.format(k, updated_metrics[k].result().numpy()))
auc : 0.33
auc_precision_recall : 0.77
average_loss : 1.13
preds = head.predictions(logits)
print(preds['logits'])
tf.Tensor(
  [[-1.   1. ]
   [-1.5  1.5]], shape=(2, 2), dtype=float32)

Использование с готовым оценщиком:

my_head = tf.estimator.MultiLabelHead(n_classes=3)
my_estimator = tf.estimator.DNNEstimator(
    head=my_head,
    hidden_units=...,
    feature_columns=...)

Его также можно использовать с пользовательским model_fn. Пример:

def _my_model_fn(features, labels, mode):
  my_head = tf.estimator.MultiLabelHead(n_classes=3)
  logits = tf.keras.Model(...)(features)

  return my_head.create_estimator_spec(
      features=features,
      mode=mode,
      labels=labels,
      optimizer=tf.keras.optimizers.Adagrad(lr=0.1),
      logits=logits)

my_estimator = tf.estimator.Estimator(model_fn=_my_model_fn)
Аргументы
n_classes Количество классов, должно быть больше 1 (для 1 класса используйте BinaryClassHead).
weight_column Строка или NumericColumn, созданная функцией tf.feature_column.numeric_column, определяющая столбец признаков, представляющий веса. Используется для уменьшения или увеличения важности примеров во время обучения. Он будет умножен на потери примера. Взвешивание по классам не поддерживается.
thresholds Последовательность чисел с плавающей точкой в диапазоне (0, 1). Метрики точности, полноты и точности рассчитываются для каждого значения порога. Порог применяется к предсказанным вероятностям, то есть выше порога — true, ниже — false.
label_vocabulary Список строк, представляющих возможные значения меток. Если он не задан, это означает, что метки уже закодированы как целые числа в диапазоне [0, n_classes) или многоточечный тензор. Если задан, метки должны быть SparseTensor string типа и иметь любое значение в label_vocabulary. Также возникнут ошибки, если словарь не предоставлен, а метки — строковые.
loss_reduction Один из tf.losses.Reduction, за исключением NONE. Определяет способ уменьшения потерь обучения по пакету. По умолчанию SUM_OVER_BATCH_SIZE, то есть взвешенная сумма потерь, делённая на размер пакета.
loss_fn Дополнительная функция потерь.
classes_for_class_based_metrics Список целочисленных идентификаторов классов или строковых имён классов, для которых оцениваются метрики по классам. Если целые числа, все должны быть в диапазоне [0, n_classes - 1]. Если строки, все должны быть в label_vocabulary.
name Имя заголовка. Если указан, ключи итоговой информации и метрик будут дополнены "/" + name. Также используется как name_scope при создании операций.
Атрибуты
logits_dimension См. base_head.Head для получения подробностей.
loss_reduction См. base_head.Head для получения подробностей.
name См. base_head.Head для получения подробностей.

Методы

create_estimator_spec

Просмотр исходного кода

create_estimator_spec(
    features, mode, logits, labels=None, optimizer=None, trainable_variables=None,
    train_op_fn=None, update_ops=None, regularization_losses=None
)

Возвращает EstimatorSpec , который модель_фн может вернуть.

Рекомендуется передавать все аргументы через имя.

Аргументы
features Входные dict сопоставляющие строковые имена признаков Tensor или SparseTensor объекты, содержащие значения этого признака в мини-пакете. Часто используется для извлечения тензора весов примера.
mode ModeKeys оценщика.
logits Логарифмы Tensor для использования заголовком.
labels Метки Tensor, или dict сопоставление строковых имён меток с Tensor объектами значений меток.
optimizer Экземпляр tf.keras.optimizers.Optimizer для оптимизации потерь в режиме ОБУЧЕНИЯ. То есть задаёт train_op = optimizer.get_updates(loss, trainable_variables), который обновляет переменные для минимизации loss.
trainable_variables Список или кортеж Variable объектов для обновления с целью минимизации loss. В Tensorflow 1.x по умолчанию это список переменных, собранных в графике по ключу GraphKeys.TRAINABLE_VARIABLES. Так как в Tensorflow 2.x нет коллекций и GraphKeys, trainable_variables нужно передавать явно здесь.
train_op_fn Функция, которая принимает скалярные потери Tensor и возвращает операцию для оптимизации модели с потерями в режиме ОБУЧЕНИЯ. Используется, если optimizer является None. Ровно один из train_op_fn и optimizer должен быть задан в режиме ОБУЧЕНИЯ. По умолчанию, это None в других режимах. Если вы хотите оптимизировать потери самостоятельно, вы можете передать lambda _: tf.no_op() и затем использовать EstimatorSpec.loss для вычисления и применения градиентов.
update_ops Список или кортеж дополнительных операций обновления, которые необходимо выполнить во время обучения. Например, такие слои, как BatchNormalization, создают операции обновления среднего и дисперсии, которые нужно выполнять во время обучения. В Tensorflow 1.x они помещаются в коллекцию UPDATE_OPS. Так как в Tensorflow 2.x нет коллекций, update_ops необходимо передавать явно здесь.
regularization_losses Список дополнительных скалярных потерь, которые следует добавить к потерям обучения, например, потери регуляризации.
Возвращаемые значения
EstimatorSpec.

loss

Просмотр исходного кода

loss(
    labels, logits, features=None, mode=None, regularization_losses=None
)

Возвращает регулируемые потери обучения. См. base_head.Head для получения подробностей.

metrics

Просмотр исходного кода

metrics(
    regularization_losses=None
)

Создаёт метрики. См. base_head.Head для получения подробностей.

predictions

Просмотр исходного кода

predictions(
    logits, keys=None
)

Возвращает прогнозы на основе ключей.

См. base_head.Head для получения подробностей.

Аргументы
logits Логарифмы Tensor с формой [D0, D1, ... DN, logits_dimension]. Во многих приложениях форма представляет собой [batch_size, logits_dimension].
keys Список ключей прогнозов. Ключ может быть либо переменной класса prediction_keys.PredictionKeys, либо её строковым значением, например: prediction_keys.PredictionKeys.LOGITS или 'logits'.
Возвращаемые значения
Словарь прогнозов.

update_metrics

Просмотр исходного кода

update_metrics(
    eval_metrics, features, logits, labels, regularization_losses=None
)

Обновляет метрики оценки. См. base_head.Head для получения подробностей.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/estimator/MultiLabelHead

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API