Spec-Zone.ru › TensorFlow 2.4

tf.estimator.RegressionHead

Просмотреть исходный код на GitHub

Создаёт Head для регрессии с использованием mean_squared_error функции потерь.

Наследуется от: Head

Просмотр псевдонимов

Псевдонимы для миграции

Подробнее см. Руководство по миграции.

tf.compat.v1.estimator.RegressionHead

tf.estimator.RegressionHead(
    label_dimension=1, weight_column=None,
    loss_reduction=losses_utils.ReductionV2.SUM_OVER_BATCH_SIZE, loss_fn=None,
    inverse_link_fn=None, name=None
)

Функция потерь — это взвешенная сумма по всем измерениям входных данных. Иными словами, если метки входных данных имеют размерность [batch_size, label_dimension], функция потерь является взвешенной суммой по batch_size и label_dimension.

Головка ожидает logits с размерностью [D0, D1, ... DN, label_dimension]. Во многих приложениях размерность [batch_size, label_dimension].

Размерность labels должна соответствовать размерности logits, а именно [D0, D1, ... DN, label_dimension]. Если label_dimension=1, то также поддерживается размерность [D0, D1, ... DN].

Если указаны weight_column, веса должны иметь размерность [D0, D1, ... DN], [D0, D1, ... DN, 1] или [D0, D1, ... DN, label_dimension].

Поддерживает настраиваемые loss_fn. loss_fn принимает (labels, logits) или (labels, logits, features, loss_reduction) в качестве аргументов и возвращает нередуцированную функцию потерь с размерностью [D0, D1, ... DN, label_dimension].

Также поддерживает настраиваемые inverse_link_fn, также известные как «функция среднего значения». inverse_link_fn используется только в режиме PREDICT. Она принимает logits в качестве аргумента и возвращает предсказанные значения. Эта функция является обратной связью для функции связи, определённой в https://en.wikipedia.org/wiki/Generalized_linear_model#Link_function. Например, для регрессии Пуассона установите inverse_link_fn=tf.exp.

Использование:

head = tf.estimator.RegressionHead()
logits = np.array(((45,), (41,),), dtype=np.float32)
labels = np.array(((43,), (44,),), dtype=np.int32)
features = {'x': np.array(((42,),), dtype=np.float32)}
# expected_loss = weighted_loss / batch_size
#               = (43-45)^2 + (44-41)^2 / 2 = 6.50
loss = head.loss(labels, logits, features=features)
print('{:.2f}'.format(loss.numpy()))
6.50
eval_metrics = head.metrics()
updated_metrics = head.update_metrics(
  eval_metrics, features, logits, labels)
for k in sorted(updated_metrics):
 print('{} : {:.2f}'.format(k, updated_metrics[k].result().numpy()))
  average_loss : 6.50
  label/mean : 43.50
  prediction/mean : 43.00
preds = head.predictions(logits)
print(preds['predictions'])
tf.Tensor(
  [[45.]
   [41.]], shape=(2, 1), dtype=float32)

Использование с готовым оценщиком:

my_head = tf.estimator.RegressionHead()
my_estimator = tf.estimator.DNNEstimator(
    head=my_head,
    hidden_units=...,
    feature_columns=...)

Также может быть использовано с настраиваемым model_fn. Пример:

def _my_model_fn(features, labels, mode):
  my_head = tf.estimator.RegressionHead()
  logits = tf.keras.Model(...)(features)

  return my_head.create_estimator_spec(
      features=features,
      mode=mode,
      labels=labels,
      optimizer=tf.keras.optimizers.Adagrad(lr=0.1),
      logits=logits)

my_estimator = tf.estimator.Estimator(model_fn=_my_model_fn)
Аргументы
weight_column Строка или NumericColumn, созданная с помощью tf.feature_column.numeric_column, определяющая столбец признаков, представляющий веса. Используется для понижения или повышения значимости примеров во время обучения. Будет умножен на потерю примера.
label_dimension Количество меток регрессии на пример. Это размер последнего измерения меток Tensor (как правило, размерность [batch_size, label_dimension]).
loss_reduction Одно из значений tf.losses.Reduction, кроме NONE. Определяет способ уменьшения функции потерь обучения по размерности пакета и меток. По умолчанию SUM_OVER_BATCH_SIZE, а именно взвешенная сумма потерь, делённая на batch_size * label_dimension.
loss_fn Необязательная функция потерь. По умолчанию mean_squared_error.
inverse_link_fn Необязательная функция обратной связи, также известная как «функция среднего значения». По умолчанию тождественная функция.
name Имя головки. Если указано, префиксы суффиксы сумм и метрик будут содержать "/" + name. Также используется в качестве name_scope при создании операций.
Атрибуты
logits_dimension Подробности см. в base_head.Head.
loss_reduction Подробности см. в base_head.Head.
name Подробности см. в base_head.Head.

Методы

create_estimator_spec

Просмотреть исходный код

create_estimator_spec(
    features, mode, logits, labels=None, optimizer=None, trainable_variables=None,
    train_op_fn=None, update_ops=None, regularization_losses=None
)

Возвращает EstimatorSpec, которое может вернуть функция model_fn.

Рекомендуется передавать все аргументы через имя.

Аргументы
features Входное отображение dict имен признаков строки в Tensor или SparseTensor объекты, содержащие значения для этого признака в мини-пакете. Часто используется для извлечения тензора весов примеров.
mode ModeKeys оценщика.
logits Логиты Tensor для использования головкой.
labels Метки Tensor, или отображение dict имен меток строки в Tensor объекты значений меток.
optimizer Экземпляр tf.keras.optimizers.Optimizer для оптимизации функции потерь в режиме обучения. А именно, задаёт train_op = optimizer.get_updates(loss, trainable_variables), которое обновляет переменные для минимизации loss.
trainable_variables Список или кортеж из Variable объектов для обновления, чтобы минимизировать loss. В Tensorflow 1.x по умолчанию это список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES. Так как Tensorflow 2.x не имеет коллекций и GraphKeys, trainable_variables необходимо передавать явно сюда.
train_op_fn Функция, которая принимает скалярную функцию потерь Tensor и возвращает операцию для оптимизации модели с функцией потерь в режиме обучения. Используется, если optimizer — None. В режиме обучения должно быть задано ровно одно из train_op_fn и optimizer. По умолчанию — None в других режимах. Если вы хотите самостоятельно оптимизировать функцию потерь, вы можете передать lambda _: tf.no_op() и затем использовать EstimatorSpec.loss для вычисления и применения градиентов.
update_ops Список или кортеж из дополнительных операций обновления, которые должны выполняться во время обучения. Например, слои, такие как BatchNormalization, создают операции обновления среднего и дисперсии, которые необходимо выполнять во время обучения. В Tensorflow 1.x они помещаются в коллекцию UPDATE_OPS. Поскольку Tensorflow 2.x не имеет коллекций, update_ops необходимо передавать явно сюда.
regularization_losses Список дополнительных скалярных функций потерь, которые необходимо добавить к функции потерь обучения, таких как функции регуляризации.
Возвращаемое значение
EstimatorSpec.

loss

Просмотреть исходный код

loss(
    labels, logits, features=None, mode=None, regularization_losses=None
)

Возвращает предсказания на основе ключей. Подробности см. в base_head.Head.

metrics

Просмотреть исходный код

metrics(
    regularization_losses=None
)

Создаёт метрики. Подробности см. в base_head.Head.

predictions

Просмотреть исходный код

predictions(
    logits
)

Возвращает предсказания на основе ключей.

Подробности см. в base_head.Head.

Аргументы
logits Логиты Tensor с размерностью [D0, D1, ... DN, logits_dimension]. Во многих приложениях размерность [batch_size, logits_dimension].
Возвращаемое значение
Словарь предсказаний.

update_metrics

Просмотреть исходный код

update_metrics(
    eval_metrics, features, logits, labels, regularization_losses=None
)

Обновляет метрики оценки. Подробности см. в base_head.Head.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/estimator/RegressionHead

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API