tf.estimator.BinaryClassHead
| Просмотреть исходный код на GitHub |
Создаёт Head для бинарной классификации с одним меткой.
Наследуется от: Head
tf.estimator.BinaryClassHead(
weight_column=None, thresholds=None, label_vocabulary=None,
loss_reduction=losses_utils.ReductionV2.SUM_OVER_BATCH_SIZE, loss_fn=None,
name=None
)
Использует sigmoid_cross_entropy_with_logits потерю.
Головка ожидает logits с формой [D0, D1, ... DN, 1]. Во многих приложениях форма — [batch_size, 1].
labels должен быть плотным Tensor с формой, соответствующей logits, а именно [D0, D1, ... DN, 1]. Если label_vocabulary задано, labels должно быть строковым Tensor со значениями из словаря. Если label_vocabulary не задано, labels должно быть числовым Tensor со значениями в интервале [0, 1].
Если weight_column указано, веса должны иметь форму [D0, D1, ... DN], или [D0, D1, ... DN, 1].
Потеря — взвешенная сумма по размерностям входных данных. А именно, если входные метки имеют форму [batch_size, 1], потеря — взвешенная сумма по batch_size.
Также поддерживает пользовательские loss_fn. loss_fn принимает (labels, logits) или (labels, logits, features, loss_reduction) в качестве аргументов и возвращает потерю с формой [D0, D1, ... DN, 1]. loss_fn должен поддерживать числовой тип labels с формой [D0, D1, ... DN, 1]. А именно, головка применяет label_vocabulary к входным меткам перед передачей их в loss_fn.
Использование:
head = tf.estimator.BinaryClassHead()
logits = np.array(((45,), (-41,),), dtype=np.float32)
labels = np.array(((1,), (1,),), dtype=np.int32)
features = {'x': np.array(((42,),), dtype=np.float32)}
# expected_loss = sum(cross_entropy(labels, logits)) / batch_size
# = sum(0, 41) / 2 = 41 / 2 = 20.50
loss = head.loss(labels, logits, features=features)
print('{:.2f}'.format(loss.numpy()))
20.50
eval_metrics = head.metrics()
updated_metrics = head.update_metrics(
eval_metrics, features, logits, labels)
for k in sorted(updated_metrics):
print('{} : {:.2f}'.format(k, updated_metrics[k].result().numpy()))
accuracy : 0.50
accuracy_baseline : 1.00
auc : 0.00
auc_precision_recall : 1.00
average_loss : 20.50
label/mean : 1.00
precision : 1.00
prediction/mean : 0.50
recall : 0.50
preds = head.predictions(logits)
print(preds['logits'])
tf.Tensor(
[[ 45.]
[-41.]], shape=(2, 1), dtype=float32)
Использование с готовым оценщиком:
my_head = tf.estimator.BinaryClassHead()
my_estimator = tf.estimator.DNNEstimator(
head=my_head,
hidden_units=...,
feature_columns=...)
Также может быть использовано с пользовательским model_fn. Пример:
def _my_model_fn(features, labels, mode):
my_head = tf.estimator.BinaryClassHead()
logits = tf.keras.Model(...)(features)
return my_head.create_estimator_spec(
features=features,
mode=mode,
labels=labels,
optimizer=tf.keras.optimizers.Adagrad(lr=0.1),
logits=logits)
my_estimator = tf.estimator.Estimator(model_fn=_my_model_fn)
| Аргументы | |
|---|---|
weight_column | Строка или NumericColumn, созданная с помощью tf.feature_column.numeric_column, определяющая столбец признака, представляющий веса. Используется для уменьшения или увеличения важности примеров во время обучения. Будет умножаться на потерю примера. |
thresholds | Последовательность чисел с плавающей точкой в диапазоне (0, 1). Для метрик бинарной классификации, таких как точность и полнота, генерируется метрика оценки для каждого значения порога. Этот порог применяется к значениям лог-вероятности для определения бинарной классификации (т.е., выше порога — true, ниже — false. |
label_vocabulary | Список или кортеж строк, представляющих возможные значения меток. Если не задано, это означает, что метки уже закодированы в диапазоне [0, 1]. Если задано, метки должны быть строкового типа и иметь любое значение в label_vocabulary. Обратите внимание, что будут подняты ошибки, если label_vocabulary не предоставлено, но метки являются строками. |
loss_reduction | Один из tf.losses.Reduction, за исключением NONE. Определяет, как уменьшать функцию потерь на батче при обучении. По умолчанию SUM_OVER_BATCH_SIZE, а именно взвешенная сумма потерь, деленная на batch size * label_dimension. |
loss_fn | Необязательная функция потерь. |
name | Имя головки. Если предоставлено, ключи суммарной информации и метрик будут иметь суффикс "/" + name. Также используется как name_scope при создании операций. |
| Атрибуты | |
|---|---|
logits_dimension | Смотрите base_head.Head для получения подробной информации. |
loss_reduction | Смотрите base_head.Head для получения подробной информации. |
name | Смотрите base_head.Head для получения подробной информации. |
Методы
create_estimator_spec
create_estimator_spec(
features, mode, logits, labels=None, optimizer=None, trainable_variables=None,
train_op_fn=None, update_ops=None, regularization_losses=None
)
Возвращает EstimatorSpec для возврата model_fn.
Рекомендуется передавать все аргументы через имя.
| Аргументы | |
|---|---|
features | Входное dict сопоставление имен признаков типа string с Tensor или SparseTensor объектами, содержащими значения для этого признака в мини-пачке. Часто используется для получения тензора весов примера. |
mode | ModeKeys оценщика. |
logits | Логиты Tensor для использования головкой. |
labels | Метки Tensor, или dict сопоставление имен меток типа string с Tensor объектами значений меток. |
optimizer | Экземпляр tf.keras.optimizers.Optimizer для оптимизации потери в режиме TRAIN. А именно, устанавливает train_op = optimizer.get_updates(loss, trainable_variables), что обновляет переменные для минимизации loss. |
trainable_variables | Список или кортеж объектов Variable для обновления, чтобы минимизировать loss. В TensorFlow 1.x, по умолчанию, это список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES. Так как в TensorFlow 2.x нет коллекций и GraphKeys, trainable_variables необходимо передавать явно. |
train_op_fn | Функция, которая принимает скалярную потерю Tensor и возвращает операцию для оптимизации модели с потерей в режиме TRAIN. Используется, если optimizer равно None. В режиме TRAIN обязательно задать одно из train_op_fn и optimizer. По умолчанию, это None в других режимах. Если вы хотите оптимизировать потерю самостоятельно, вы можете передать lambda _: tf.no_op() и затем использовать EstimatorSpec.loss для вычисления и применения градиентов. |
update_ops | Список или кортеж операций обновления, которые должны выполняться во время обучения. Например, слои, такие как BatchNormalization, создают операции обновления среднего и дисперсии, которые необходимо запускать во время обучения. В TensorFlow 1.x, они помещаются в коллекцию UPDATE_OPS. Так как в TensorFlow 2.x нет коллекций, update_ops необходимо передавать явно. |
regularization_losses | Список дополнительных скалярных потерь, которые добавляются к тренировочной потере, такие как регуляризационные потери. |
| Возвращаемые значения | |
|---|---|
EstimatorSpec. |
loss
loss(
labels, logits, features=None, mode=None, regularization_losses=None
)
Возвращает регуляризованную тренировочную потерю. Смотрите base_head.Head для получения подробной информации.
metrics
metrics(
regularization_losses=None
)
Создаёт метрики. Смотрите base_head.Head для получения подробной информации.
predictions
predictions(
logits, keys=None
)
Возвращает предсказания на основе ключей.
Смотрите base_head.Head для получения подробной информации.
| Аргументы | |
|---|---|
logits | Логиты Tensor с формой [D0, D1, ... DN, logits_dimension]. Во многих приложениях форма — [batch_size, logits_dimension]. |
keys | Список или кортеж ключей предсказания. Каждый ключ может быть либо переменной класса prediction_keys.PredictionKeys, либо его строковым значением, например: prediction_keys.PredictionKeys.CLASSES или 'classes'. Если не указано, будут возвращены предсказания для всех допустимых ключей. |
| Возвращаемые значения | |
|---|---|
| Словарь предсказаний. |
update_metrics
update_metrics(
eval_metrics, features, logits, labels, regularization_losses=None
)
Обновляет метрики оценки. Смотрите base_head.Head для получения подробной информации.
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/estimator/BinaryClassHead