tf.estimator.MultiClassHead
| Просмотреть исходный код на GitHub |
Создаёт Head для многоклассовой классификации.
Наследуется от: Head
tf.estimator.MultiClassHead(
n_classes, weight_column=None, label_vocabulary=None,
loss_reduction=losses_utils.ReductionV2.SUM_OVER_BATCH_SIZE, loss_fn=None,
name=None
)
Использует sparse_softmax_cross_entropy потерю.
Заголовок ожидает logits с формой [D0, D1, ... DN, n_classes]. Во многих приложениях форма — [batch_size, n_classes].
labels должен быть плотным Tensor с формой, соответствующей logits, а именно [D0, D1, ... DN, 1]. Если label_vocabulary задан, labels должен быть строковым Tensor со значениями из словаря. Если label_vocabulary не задан, labels должен быть целым Tensor со значениями, определяющими индекс класса.
Если weight_column указан, веса должны иметь форму [D0, D1, ... DN], или [D0, D1, ... DN, 1].
Потеря — это взвешенная сумма по входным измерениям. А именно, если входные метки имеют форму [batch_size, 1], потеря — это взвешенная сумма по batch_size.
Также поддерживает пользовательские loss_fn. loss_fn принимает (labels, logits) или (labels, logits, features, loss_reduction) в качестве аргументов и возвращает нередуцированную потерю с формой [D0, D1, ... DN, 1]. loss_fn должен поддерживать целые labels с формой [D0, D1, ... DN, 1]. А именно, заголовок применяет label_vocabulary к входным меткам перед передачей их в loss_fn.
Использование:
n_classes = 3
head = tf.estimator.MultiClassHead(n_classes)
logits = np.array(((10, 0, 0), (0, 10, 0),), dtype=np.float32)
labels = np.array(((1,), (1,)), dtype=np.int64)
features = {'x': np.array(((42,),), dtype=np.int32)}
# expected_loss = sum(cross_entropy(labels, logits)) / batch_size
# = sum(10, 0) / 2 = 5.
loss = head.loss(labels, logits, features=features)
print('{:.2f}'.format(loss.numpy()))
5.00
eval_metrics = head.metrics()
updated_metrics = head.update_metrics(
eval_metrics, features, logits, labels)
for k in sorted(updated_metrics):
print('{} : {:.2f}'.format(k, updated_metrics[k].result().numpy()))
accuracy : 0.50
average_loss : 5.00
preds = head.predictions(logits)
print(preds['logits'])
tf.Tensor(
[[10. 0. 0.]
[ 0. 10. 0.]], shape=(2, 3), dtype=float32)
Использование с готовым оценщиком:
my_head = tf.estimator.MultiClassHead(n_classes=3)
my_estimator = tf.estimator.DNNEstimator(
head=my_head,
hidden_units=...,
feature_columns=...)
Его также можно использовать с пользовательским model_fn. Пример:
def _my_model_fn(features, labels, mode):
my_head = tf.estimator.MultiClassHead(n_classes=3)
logits = tf.keras.Model(...)(features)
return my_head.create_estimator_spec(
features=features,
mode=mode,
labels=labels,
optimizer=tf.keras.optimizers.Adagrad(lr=0.1),
logits=logits)
my_estimator = tf.estimator.Estimator(model_fn=_my_model_fn)
| Аргументы | |
|---|---|
n_classes | Количество классов, должно быть больше 2 (для 2 классов используйте BinaryClassHead). |
weight_column | Строка или NumericColumn, созданный функцией tf.feature_column.numeric_column, определяющий столбец признаков, представляющий веса. Используется для снижения или увеличения весов примеров во время обучения. Будет умножен на потерю примера. |
label_vocabulary | Список или кортеж строк, представляющих возможные значения меток. Если не указан, это означает, что метки уже закодированы как целые числа в диапазоне [0, n_classes). Если указан, метки должны быть строкового типа и иметь любое значение в label_vocabulary. Обратите внимание, что будут выведены ошибки, если label_vocabulary не указан, но метки являются строками. Если оба n_classes и label_vocabulary указаны, label_vocabulary должно содержать ровно n_classes элементов. |
loss_reduction | Один из tf.losses.Reduction, за исключением NONE. Определяет, как уменьшить потерю обучения на батче. По умолчанию SUM_OVER_BATCH_SIZE, а именно взвешенная сумма потерь, деленная на batch size * label_dimension. |
loss_fn | Необязательная функция потерь. |
name | Имя заголовка. Если указано, ключи отчёта и метрик будут дополнены суффиксом "/" + name. Также используется в качестве name_scope при создании операций. |
| Атрибуты | |
|---|---|
logits_dimension | См. base_head.Head для подробностей. |
loss_reduction | См. base_head.Head для подробностей. |
name | См. base_head.Head для подробностей. |
Методы
create_estimator_spec
create_estimator_spec(
features, mode, logits, labels=None, optimizer=None, trainable_variables=None,
train_op_fn=None, update_ops=None, regularization_losses=None
)
Возвращает EstimatorSpec для возврата model_fn.
Рекомендуется передавать все аргументы через имя.
| Аргументы | |
|---|---|
features | Входные dict сопоставляющие строковые имена признаков с Tensor или SparseTensor объектами, содержащими значения для этого признака в мини-партни. Часто используется для извлечения тензора весов примера. |
mode | ModeKeys оценщика. |
logits | Логиты Tensor для использования заголовком. |
labels | Метки Tensor, или dict сопоставляющие строковые имена меток с Tensor объектами значений меток. |
optimizer | Экземпляр tf.keras.optimizers.Optimizer для оптимизации потери в режиме TRAIN. А именно, устанавливает train_op = optimizer.get_updates(loss, trainable_variables), который обновляет переменные для минимизации loss. |
trainable_variables | Список или кортеж объектов Variable для обновления с целью минимизации loss. В Tensorflow 1.x, по умолчанию это список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES. Так как Tensorflow 2.x не имеет коллекций и GraphKeys, trainable_variables нужно передавать явно сюда. |
train_op_fn | Функция, принимающая скалярную потерю Tensor и возвращающая операцию для оптимизации модели с потерей в режиме TRAIN. Используется, если optimizer является None. Ровно один из train_op_fn и optimizer должен быть задан в режиме TRAIN. По умолчанию — None в других режимах. Если хотите оптимизировать потерю самостоятельно, вы можете передать lambda _: tf.no_op() и затем использовать EstimatorSpec.loss для вычисления и применения градиентов. |
update_ops | Список или кортеж операций обновления, которые нужно запускать во время обучения. Например, слои, такие как BatchNormalization, создают операции обновления среднего и дисперсии, которые нужно запускать во время обучения. В Tensorflow 1.x они помещаются в коллекцию UPDATE_OPS. Поскольку в Tensorflow 2.x нет коллекций, update_ops нужно передавать явно сюда. |
regularization_losses | Список дополнительных скалярных потерь, которые нужно добавить к потере обучения, например, потери регуляризации. |
| Возвращает | |
|---|---|
EstimatorSpec. |
loss
loss(
labels, logits, features=None, mode=None, regularization_losses=None
)
Возвращает регуляризованную потерю обучения. См. base_head.Head для подробностей.
metrics
metrics(
regularization_losses=None
)
Создаёт метрики. См. base_head.Head для подробностей.
predictions
predictions(
logits, keys=None
)
Возвращает предсказания на основе ключей.
См. base_head.Head для подробностей.
| Аргументы | |
|---|---|
logits | Логиты Tensor с формой [D0, D1, ... DN, logits_dimension]. Во многих приложениях форма — [batch_size, logits_dimension]. |
keys | Список или кортеж ключей предсказаний. Каждый ключ может быть либо переменной класса prediction_keys.PredictionKeys, либо её строковым значением, например: prediction_keys.PredictionKeys.CLASSES или 'classes'. Если не указано, будут возвращены предсказания для всех допустимых ключей. |
| Возвращает | |
|---|---|
| Словарь предсказаний. |
update_metrics
update_metrics(
eval_metrics, features, logits, labels, regularization_losses=None
)
Обновляет метрики оценки. См. base_head.Head для подробностей.
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/estimator/MultiClassHead