tf.estimator.BinaryClassHead
| Просмотреть исходный код на GitHub |
Создаёт Head для бинарной классификации с одним меткой.
Наследуется от: Head
tf.estimator.BinaryClassHead(
weight_column=None,
thresholds=None,
label_vocabulary=None,
loss_reduction=tf.losses.Reduction.SUM_OVER_BATCH_SIZE,
loss_fn=None,
name=None
)
Использует sigmoid_cross_entropy_with_logits функцию потерь.
Возглавие ожидает logits с формой [D0, D1, ... DN, 1]. Во многих приложениях форма равна [batch_size, 1].
labels должен быть плотными Tensor с формой, соответствующей logits, а именно [D0, D1, ... DN, 1]. Если label_vocabulary задано, labels должна быть строковой Tensor со значениями из словаря. Если label_vocabulary не задано, то labels должна быть плавающей Tensor с значениями в интервале [0, 1].
Если weight_column указано, веса должны иметь форму [D0, D1, ... DN], или [D0, D1, ... DN, 1].
Функция потерь — это взвешенная сумма по входным измерениям. То есть, если входные метки имеют форму [batch_size, 1], то функция потерь — это взвешенная сумма по batch_size.
Также поддерживает настраиваемые loss_fn. loss_fn принимает (labels, logits) или (labels, logits, features, loss_reduction) в качестве аргументов и возвращает функцию потерь с формой [D0, D1, ... DN, 1]. loss_fn должен поддерживать плавающие labels с формой [D0, D1, ... DN, 1]. Иными словами, возглавие применяет label_vocabulary к входным меткам перед передачей их в loss_fn.
Использование:
head = tf.estimator.BinaryClassHead()
logits = np.array(((45,), (-41,),), dtype=np.float32)
labels = np.array(((1,), (1,),), dtype=np.int32)
features = {'x': np.array(((42,),), dtype=np.float32)}
# expected_loss = sum(cross_entropy(labels, logits)) / batch_size
# = sum(0, 41) / 2 = 41 / 2 = 20.50
loss = head.loss(labels, logits, features=features)
print('{:.2f}'.format(loss.numpy()))
20.50
eval_metrics = head.metrics()
updated_metrics = head.update_metrics(
eval_metrics, features, logits, labels)
for k in sorted(updated_metrics):
print('{} : {:.2f}'.format(k, updated_metrics[k].result().numpy()))
accuracy : 0.50
accuracy_baseline : 1.00
auc : 0.00
auc_precision_recall : 1.00
average_loss : 20.50
label/mean : 1.00
precision : 1.00
prediction/mean : 0.50
recall : 0.50
preds = head.predictions(logits)
print(preds['logits'])
tf.Tensor(
[[ 45.]
[-41.]], shape=(2, 1), dtype=float32)
Использование с готовым оценщиком:
my_head = tf.estimator.BinaryClassHead()
my_estimator = tf.estimator.DNNEstimator(
head=my_head,
hidden_units=...,
feature_columns=...)
Он также может быть использован с пользовательской model_fn. Пример:
def _my_model_fn(features, labels, mode):
my_head = tf.estimator.BinaryClassHead()
logits = tf.keras.Model(...)(features)
return my_head.create_estimator_spec(
features=features,
mode=mode,
labels=labels,
optimizer=tf.keras.optimizers.Adagrad(lr=0.1),
logits=logits)
my_estimator = tf.estimator.Estimator(model_fn=_my_model_fn)
| Аргументы | |
|---|---|
weight_column | Строка или NumericColumn, созданная с помощью tf.feature_column.numeric_column, определяющая столбец признаков, представляющий веса. Используется для снижения или повышения веса примеров во время обучения. Будет умножаться на функцию потерь примера. |
thresholds | Последовательность чисел с плавающей точкой в диапазоне (0, 1). Для метрик бинарной классификации, таких как точность и полнота, генерируется метрика оценки для каждого значения порога. Этот порог применяется к лог-величинам, чтобы определить бинарную классификацию (т.е., значения выше порога — true, ниже — false. |
label_vocabulary | Список или кортеж строк, представляющих возможные значения меток. Если не указано, это означает, что метки уже закодированы в диапазоне [0, 1]. Если указано, метки должны быть строкового типа и иметь любое значение из label_vocabulary. Обратите внимание, что будут вызваны ошибки, если label_vocabulary не указано, а метки являются строками. |
loss_reduction | Один из tf.losses.Reduction за исключением NONE. Определяет, как уменьшать функцию потерь обучения в батче. По умолчанию SUM_OVER_BATCH_SIZE, т.е. взвешенная сумма потерь, деленная на batch size * label_dimension. |
loss_fn | Необязательная функция потерь. |
name | Имя заголовка. Если указано, ключевые слова сводки и метрик будут дополнены "/" + name. Также используется как name_scope при создании операций. |
| Атрибуты | |
|---|---|
logits_dimension | Подробности см. в base_head.Head |
loss_reduction | Подробности см. в base_head.Head |
name | Подробности см. в base_head.Head |
Методы
create_estimator_spec
create_estimator_spec(
features,
mode,
logits,
labels=None,
optimizer=None,
trainable_variables=None,
train_op_fn=None,
update_ops=None,
regularization_losses=None
)
Возвращает EstimatorSpec для возврата функции model_fn.
Рекомендуется передавать все аргументы через имя.
| Аргументы | |
|---|---|
features | Строка сопоставления входных данных, которая связывает имена признаков с объектами Tensor или SparseTensor , содержащими значения этих признаков в мини-пачке. Часто используется для получения тензора весов примеров. |
mode | ModeKeys оценщика. |
logits | Логиты Tensor для использования головкой. |
labels | Метки Tensor, или отображение имен меток в виде строк на объекты Tensor , содержащие значения меток. |
optimizer | Экземпляр tf.keras.optimizers.Optimizer для оптимизации потерь в режиме TRAIN. В частности, устанавливает train_op = optimizer.get_updates(loss, trainable_variables), который обновляет переменные для минимизации loss. |
trainable_variables | Список или кортеж объектов Variable для обновления, чтобы минимизировать loss. В Tensorflow 1.x по умолчанию это список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES. Поскольку в Tensorflow 2.x нет коллекций и GraphKeys, trainable_variables необходимо передавать явно здесь. |
train_op_fn | Функция, которая принимает скалярную потерю Tensor и возвращает операцию для оптимизации модели с потерей в режиме TRAIN. Используется, если optimizer равно None. В режиме TRAIN точно один из train_op_fn и optimizer должен быть установлен. По умолчанию это None в других режимах. Если вы хотите оптимизировать потерю самостоятельно, вы можете передать lambda _: tf.no_op() и затем использовать EstimatorSpec.loss для вычисления и применения градиентов. |
update_ops | Список или кортеж операций обновления, которые должны выполняться во время обучения. Например, слои, такие как BatchNormalization, создают операции обновления среднего и дисперсии, которые необходимо запускать во время обучения. В Tensorflow 1.x они помещаются в коллекцию UPDATE_OPS. Поскольку в Tensorflow 2.x нет коллекций, update_ops нужно передавать явно здесь. |
regularization_losses | Список дополнительных скалярных потерь, которые должны быть добавлены к обучающей потере, такие как потери регуляризации. |
| Возвращаемое значение | |
|---|---|
EstimatorSpec. |
loss
loss(
labels, logits, features=None, mode=None, regularization_losses=None
)
Возвращает регуляризованную обучающую потерю. Подробности см. в base_head.Head.
metrics
metrics(
regularization_losses=None
)
Создает метрики. Подробности см. в base_head.Head.
predictions
predictions(
logits, keys=None
)
Возвращает предсказания на основе ключей.
Подробности см. в base_head.Head.
| Аргументы | |
|---|---|
logits | Логиты Tensor с формой [D0, D1, ... DN, logits_dimension]. Для многих приложений форма равна [batch_size, logits_dimension]. |
keys | Список или кортеж ключей предсказаний. Каждый ключ может быть либо переменной класса prediction_keys.PredictionKeys, либо его строковым значением, например: prediction_keys.PredictionKeys.CLASSES или 'classes'. Если не указано, возвращаются предсказания для всех допустимых ключей. |
| Возвращаемое значение | |
|---|---|
| Словарь предсказаний. |
update_metrics
update_metrics(
eval_metrics, features, logits, labels, regularization_losses=None
)
Обновляет метрики оценки. Подробности см. в base_head.Head.
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/estimator/BinaryClassHead