tf.compat.v1.train.sdca_optimizer

Распределённая версия оптимизатора Stochastic Dual Coordinate Ascent (SDCA) для

tf.compat.v1.train.sdca_optimizer(
    sparse_example_indices: Annotated[List[Any], _atypes.Int64],
    sparse_feature_indices: Annotated[List[Any], _atypes.Int64],
    sparse_feature_values: Annotated[List[Any], _atypes.Float32],
    dense_features: Annotated[List[Any], _atypes.Float32],
    example_weights: Annotated[Any, _atypes.Float32],
    example_labels: Annotated[Any, _atypes.Float32],
    sparse_indices: Annotated[List[Any], _atypes.Int64],
    sparse_weights: Annotated[List[Any], _atypes.Float32],
    dense_weights: Annotated[List[Any], _atypes.Float32],
    example_state_data: Annotated[Any, _atypes.Float32],
    loss_type: str,
    l1: float,
    l2: float,
    num_loss_partitions: int,
    num_inner_iterations: int,
    adaptative: bool = True,
    name=None
)

линейных моделей с L1 + L2 регуляризацией. Так как глобальная оптимизационная функция строго выпукла, оптимизатор оптимизирует двойственную функцию на каждом шаге. Оптимизатор применяет каждое обновление по одному примеру за раз. Примеры выбираются равномерно, и оптимизатор не зависит от скорости обучения и имеет линейную скорость сходимости.

Proximal Stochastic Dual Coordinate Ascent.
Shai Shalev-Shwartz, Tong Zhang. 2012

\[Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|\]

Adding vs. Averaging in Distributed Primal-Dual Optimization.
Chenxin Ma, Virginia Smith, Martin Jaggi, Michael I. Jordan, Peter Richtarik, Martin Takac. 2015

Stochastic Dual Coordinate Ascent with Adaptive Probabilities.
Dominik Csiba, Zheng Qu, Peter Richtarik. 2015

Args
`sparse_example_indices`	Список объектов типа `int64`. список векторов, содержащих индексы примеров.
`sparse_feature_indices`	Список той же длины, что и `sparse_example_indices`, объектов типа `int64`. список векторов, содержащих индексы признаков.
`sparse_feature_values`	Список объектов типа `float32`. список векторов, содержащих значения признаков, связанные с каждой группой признаков.
`dense_features`	Список объектов типа `float32`. список матриц, содержащих плотные значения признаков.
`example_weights`	Объект типа `float32`. вектор, содержащий вес, связанный с каждым примером.
`example_labels`	Объект типа `float32`. вектор, содержащий метку/целевое значение, связанное с каждым примером.
`sparse_indices`	Список той же длины, что и `sparse_example_indices`, объектов типа `int64`. список векторов, где каждое значение представляет собой индексы, соответствующие весам в sparse_weights. Этот параметр можно опустить для плотного подхода.
`sparse_weights`	Список той же длины, что и `sparse_example_indices`, объектов типа `float32`. список векторов, где каждое значение представляет собой вес, связанный с группой разреженных признаков.
`dense_weights`	Список той же длины, что и `dense_features`, объектов типа `float32`. список векторов, где значения представляют собой веса, связанные с группой плотных признаков.
`example_state_data`	Объект типа `float32`. список векторов, содержащих данные состояния примера.
`loss_type`	Значение из: `"logistic_loss", "squared_loss", "hinge_loss", "smooth_hinge_loss", "poisson_loss"`. Тип первичной функции потерь. В настоящее время SdcaSolver поддерживает логистические, квадратичные и ступенчатые потери.
`l1`	Значение. Сила симметричной регуляризации L1.
`l2`	Значение. Сила симметричной регуляризации L2.
`num_loss_partitions`	Целое число. Количество разделений глобальной функции потерь.
`num_inner_iterations`	Целое число. Количество итераций на мини-пакет.
`adaptative`	Необязательный параметр. По умолчанию `True`. Использовать ли адаптивную SDCA для внутреннего цикла.
`name`	Имя операции (необязательно).

Returns
Кортеж из объектов `Tensor` (out_example_state_data, out_delta_sparse_weights, out_delta_dense_weights).
`out_example_state_data`	Объект типа `float32`.
`out_delta_sparse_weights`	Список той же длины, что и `sparse_example_indices`, объектов типа `float32`.
`out_delta_dense_weights`	Список той же длины, что и `dense_features`, объектов типа `float32`.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/compat/v1/train/sdca_optimizer