tf.compat.v1.train.sdca_optimizer

Распределенная версия оптимизатора Stochastic Dual Coordinate Ascent (SDCA) для

tf.compat.v1.train.sdca_optimizer(
    sparse_example_indices, sparse_feature_indices, sparse_feature_values,
    dense_features, example_weights, example_labels, sparse_indices, sparse_weights,
    dense_weights, example_state_data, loss_type, l1, l2, num_loss_partitions,
    num_inner_iterations, adaptative=True, name=None
)

линейных моделей с регуляризацией L1 + L2. Поскольку глобальная оптимизационная цель является строго выпуклой, оптимизатор оптимизирует двойственную целевую функцию на каждом шаге. Оптимизатор применяет каждое обновление по одному примеру за раз. Примеры выбираются равномерно, и оптимизатор не зависит от скорости обучения и имеет линейную скорость сходимости.

Проксимальный стохастический двойственный метод координатного подъёма.
Шаи Шалев-Шварц, Тонг Чжан. 2012

$$Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|$$

Добавление против усреднения в распределённой оптимизации типа «прима-дуализм».
Чэньсинь Ма, Вирджиния Смит, Мартин Яджи, Майкл И. Джордан, Питер Рихтарик, Мартин Такач. 2015

Стохастический двойственный метод координатного подъёма с адаптивными вероятностями.
Доминик Циба, Чжэн Куй, Питер Рихтарик. 2015

Аргументы
`sparse_example_indices`	Список объектов типа `int64`, содержащий индексы примеров.
`sparse_feature_indices`	Список той же длины, что и `sparse_example_indices`, содержащий объекты типа `int64`, с индексами признаков.
`sparse_feature_values`	Список объектов типа `float32`, содержащий значения признаков, связанные с каждой группой признаков.
`dense_features`	Список объектов типа `float32`, содержащий плотные значения признаков.
`example_weights`	Вектор типа `float32`, содержащий веса, связанные с каждым примером.
`example_labels`	Вектор типа `float32`, содержащий метки/цели, связанные с каждым примером.
`sparse_indices`	Список той же длины, что и `sparse_example_indices`, содержащий объекты типа `int64`, с индексами, имеющими соответствующие веса в sparse_weights. Этот параметр может быть опущен для плотного подхода.
`sparse_weights`	Список той же длины, что и `sparse_example_indices`, содержащий объекты типа `float32`, с весами, связанными с каждой группой разреженных признаков.
`dense_weights`	Список той же длины, что и `dense_features`, содержащий объекты типа `float32`, с весами, связанными с каждой группой плотных признаков.
`example_state_data`	Вектор типа `float32`, содержащий данные состояния примеров.
`loss_type`	Тип первичной функции потерь из: `"logistic_loss", "squared_loss", "hinge_loss", "smooth_hinge_loss", "poisson_loss"`. В настоящее время SdcaSolver поддерживает логистические, квадратичные и порождающие потери.
`l1`	Сила симметричной регуляризации L1.
`l2`	Сила симметричной регуляризации L2.
`num_loss_partitions`	Число разделений глобальной функции потерь.
`num_inner_iterations`	Число итераций на мини-пакет.
`adaptative`	Необязательный параметр. По умолчанию `True`. Используется ли адаптивный SDCA для внутреннего цикла.
`name`	Имя операции (необязательно).

Возвращаемые значения
Кортеж объектов (out_example_state_data, out_delta_sparse_weights, out_delta_dense_weights).
`out_example_state_data`	Вектор типа `float32`.
`out_delta_sparse_weights`	Список той же длины, что и `sparse_example_indices`, содержащий объекты типа `float32`.
`out_delta_dense_weights`	Список той же длины, что и `dense_features`, содержащий объекты типа `float32`.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/compat/v1/train/sdca_optimizer