tf.train.sdca_optimizer

Распределённая версия оптимизатора Stochastic Dual Coordinate Ascent (SDCA) для

Просмотр псевдонимов

Псевдонимы для миграции

См. Руководство по миграции для получения более подробной информации.

tf.compat.v1.train.sdca_optimizer

tf.train.sdca_optimizer(
    sparse_example_indices, sparse_feature_indices, sparse_feature_values,
    dense_features, example_weights, example_labels, sparse_indices, sparse_weights,
    dense_weights, example_state_data, loss_type, l1, l2, num_loss_partitions,
    num_inner_iterations, adaptative=True, name=None
)

линейных моделей с регуляризацией L1 + L2. Поскольку глобальная целевая функция оптимизации является строго выпуклой, оптимизатор оптимизирует двойственную целевую функцию на каждом шаге. Оптимизатор применяет каждое обновление по одному примеру за раз. Примеры выбираются равномерно, и оптимизатор не зависит от скорости обучения и обладает линейной скоростью сходимости.

Проксимальный стохастический двойственный метод координатного восхождения.
Shai Shalev-Shwartz, Tong Zhang. 2012

$$Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|$$

Добавление против усреднения в распределённой оптимизации типа «прима-дуализм».
Chenxin Ma, Virginia Smith, Martin Jaggi, Michael I. Jordan, Peter Richtarik, Martin Takac. 2015

Стохастический двойственный метод координатного восхождения с адаптивными вероятностями.
Dominik Csiba, Zheng Qu, Peter Richtarik. 2015

Аргументы
`sparse_example_indices`	Список объектов типа `int64`. Список векторов, содержащих индексы примеров.
`sparse_feature_indices`	Список с длиной, равной `sparse_example_indices`, содержащий объекты типа `int64`. Список векторов, содержащих индексы признаков.
`sparse_feature_values`	Список объектов типа `float32`. Список векторов, содержащих значения признаков, связанные с каждой группой признаков.
`dense_features`	Список объектов типа `float32`. Список матриц, содержащих плотные значения признаков.
`example_weights`	Вектор типа `float32`. Вектор, содержащий вес, связанный с каждым примером.
`example_labels`	Вектор типа `float32`. Вектор, содержащий метку/целевое значение, связанное с каждым примером.
`sparse_indices`	Список с длиной, равной `sparse_example_indices`, содержащий объекты типа `int64`. Список векторов, где каждое значение — индексы, имеющие соответствующие веса в sparse_weights. Это поле можно опустить для плотного подхода.
`sparse_weights`	Список с длиной, равной `sparse_example_indices`, содержащий объекты типа `float32`. Список векторов, где каждое значение — вес, связанный с разреженной группой признаков.
`dense_weights`	Список с длиной, равной `dense_features`, содержащий объекты типа `float32`. Список векторов, где значения — веса, связанные с плотной группой признаков.
`example_state_data`	Вектор типа `float32`. Список векторов, содержащих данные состояния примера.
`loss_type`	Тип первичной функции потерь: `"logistic_loss", "squared_loss", "hinge_loss", "smooth_hinge_loss", "poisson_loss"`. В настоящее время SdcaSolver поддерживает логистические, квадратные и опорные функции потерь.
`l1`	Величина симметричной регуляризации L1.
`l2`	Величина симметричной регуляризации L2.
`num_loss_partitions`	Число разделов глобальной функции потерь.
`num_inner_iterations`	Число итераций на мини-пакет.
`adaptative`	Необязательный параметр. По умолчанию `True`. Используется ли адаптивный SDCA для внутреннего цикла.
`name`	Имя операции (необязательно).

Возвращаемое значение
Кортеж объектов `Tensor` (out_example_state_data, out_delta_sparse_weights, out_delta_dense_weights).
`out_example_state_data`	Вектор типа `float32`.
`out_delta_sparse_weights`	Список с длиной, равной `sparse_example_indices`, содержащий объекты типа `float32`.
`out_delta_dense_weights`	Список с длиной, равной `dense_features`, содержащий объекты типа `float32`.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/train/sdca_optimizer