Spec-Zone.ru › TensorFlow 2.9

tf.compat.v1.train.sdca_optimizer

Распределённая версия оптимизатора Stochastic Dual Coordinate Ascent (SDCA) для

tf.compat.v1.train.sdca_optimizer(
    sparse_example_indices,
    sparse_feature_indices,
    sparse_feature_values,
    dense_features,
    example_weights,
    example_labels,
    sparse_indices,
    sparse_weights,
    dense_weights,
    example_state_data,
    loss_type,
    l1,
    l2,
    num_loss_partitions,
    num_inner_iterations,
    adaptative=True,
    name=None
)

линейных моделей с L1 + L2 регуляризацией. Поскольку глобальная целевая функция оптимизации строго выпуклая, оптимизатор оптимизирует двойственную целевую функцию на каждом шаге. Оптимизатор применяет каждый обновление по одному примеру за раз. Примеры выбираются равномерно, и оптимизатор не зависит от скорости обучения, а демонстрирует линейную скорость сходимости.

Proximal Stochastic Dual Coordinate Ascent.
Шаи Шалеф-Шварц, Тонг Чжан. 2012

\[ЦелеваяФункцияПотери = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|\]

Adding vs. Averaging in Distributed Primal-Dual Optimization.
Чэньсин Ма, Вирджиния Смит, Мартин Яджи, Майкл И. Джордан, Петер Рихтарик, Мартин Такач. 2015

Stochastic Dual Coordinate Ascent with Adaptive Probabilities.
Доминик Чсиба, Чжэн Ку, Петер Рихтарик. 2015

Аргументы
sparse_example_indices Список Tensor объектов типа int64. Список векторов, содержащих индексы примеров.
sparse_feature_indices Список такой же длины, как sparse_example_indices, содержащий Tensor объекты типа int64. Список векторов, содержащих индексы признаков.
sparse_feature_values Список Tensor объектов типа float32. Список векторов, содержащих значения признаков, связанные с каждой группой признаков.
dense_features Список Tensor объектов типа float32. Список матриц, содержащих плотные значения признаков.
example_weights Tensor типа float32. Вектор, содержащий вес, связанный с каждым примером.
example_labels Tensor типа float32. Вектор, содержащий метку/цель, связанную с каждым примером.
sparse_indices Список такой же длины, как sparse_example_indices, содержащий Tensor объекты типа int64. Список векторов, где каждое значение является индексами, соответствующими весам в sparse_weights. Это поле может быть опущено для плотного подхода.
sparse_weights Список такой же длины, как sparse_example_indices, содержащий Tensor объекты типа float32. Список векторов, где каждое значение представляет собой вес, связанный с группой разреженных признаков.
dense_weights Список такой же длины, как dense_features, содержащий Tensor объекты типа float32. Список векторов, где значения представляют собой веса, связанные с группой плотных признаков.
example_state_data Tensor типа float32. Список векторов, содержащих данные состояния примеров.
loss_type Тип первичной функции потерь из: "logistic_loss", "squared_loss", "hinge_loss", "smooth_hinge_loss", "poisson_loss". В настоящее время SdcaSolver поддерживает логистические, квадратичные и разрывные функции потерь.
l1 Сила симметричной регуляризации l1.
l2 Сила симметричной регуляризации l2.
num_loss_partitions Целое число, представляющее собой количество разбиений глобальной функции потерь.
num_inner_iterations Целое число, представляющее количество итераций на мини-пакет.
adaptative Необязательный параметр. По умолчанию True. Использовать адаптивный SDCA для внутреннего цикла.
name Название операции (необязательно).
Возвращаемые значения
Кортеж из Tensor объектов (out_example_state_data, out_delta_sparse_weights, out_delta_dense_weights).
out_example_state_data Tensor типа float32.
out_delta_sparse_weights Список такой же длины, как sparse_example_indices, содержащий Tensor объекты типа float32.
out_delta_dense_weights Список такой же длины, как dense_features, содержащий Tensor объекты типа float32.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/compat/v1/train/sdca_optimizer

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API