Spec-Zone.ru › TensorFlow

tf.compat.v1.train.sdca_optimizer

Распределенная версия оптимизатора стохастического двойственного покоординатного подъема (SDCA) для

tf.compat.v1.train.sdca_optimizer(
    sparse_example_indices: Annotated[List[Any], _atypes.Int64],
    sparse_feature_indices: Annotated[List[Any], _atypes.Int64],
    sparse_feature_values: Annotated[List[Any], _atypes.Float32],
    dense_features: Annotated[List[Any], _atypes.Float32],
    example_weights: Annotated[Any, _atypes.Float32],
    example_labels: Annotated[Any, _atypes.Float32],
    sparse_indices: Annotated[List[Any], _atypes.Int64],
    sparse_weights: Annotated[List[Any], _atypes.Float32],
    dense_weights: Annotated[List[Any], _atypes.Float32],
    example_state_data: Annotated[Any, _atypes.Float32],
    loss_type: str,
    l1: float,
    l2: float,
    num_loss_partitions: int,
    num_inner_iterations: int,
    adaptative: bool = True,
    name=None
)

линейных моделей с регуляризацией L1 + L2. Поскольку глобальная целевая функция является сильно выпуклой, на каждом шаге оптимизатор оптимизирует двойственную целевую функцию. Оптимизатор применяет каждое обновление к одному примеру за раз. Примеры выбираются равномерно; оптимизатор не требует скорости обучения и обеспечивает линейную скорость сходимости.

Проксимальный стохастический двойственный покоординатный подъем.
Shai Shalev-Shwartz, Tong Zhang. 2012

\[Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|\]

Сложение и усреднение в распределенной прямой-двойственной оптимизации.
Chenxin Ma, Virginia Smith, Martin Jaggi, Michael I. Jordan, Peter Richtarik, Martin Takac. 2015

Стохастический двойственный покоординатный подъем с адаптивными вероятностями.
Dominik Csiba, Zheng Qu, Peter Richtarik. 2015

Аргументы
sparse_example_indices Список объектов Tensor типа int64. Список векторов, содержащих индексы примеров.
sparse_feature_indices Список объектов Tensor типа int64, длина которого совпадает с длиной sparse_example_indices. Список векторов, содержащих индексы признаков.
sparse_feature_values Список объектов Tensor типа float32. Список векторов, содержащих значения признаков для каждой группы признаков.
dense_features Список объектов Tensor типа float32. Список матриц, содержащих плотные значения признаков.
example_weights Объект Tensor типа float32. Вектор, содержащий вес, связанный с каждым примером.
example_labels Объект Tensor типа float32. Вектор, содержащий метку/целевое значение, связанное с каждым примером.
sparse_indices Список объектов Tensor типа int64, длина которого совпадает с длиной sparse_example_indices. Список векторов, где каждое значение — это индексы, которым соответствуют веса в sparse_weights. Это поле можно опустить при использовании плотного подхода.
sparse_weights Список объектов Tensor типа float32, длина которого совпадает с длиной sparse_example_indices. Список векторов, где каждое значение — вес, связанный с разреженной группой признаков.
dense_weights Список объектов Tensor типа float32, длина которого совпадает с длиной dense_features. Список векторов, значения которых являются весами, связанными с плотной группой признаков.
example_state_data Объект Tensor типа float32. Список векторов, содержащих данные о состоянии примеров.
loss_type Объект string из: "logistic_loss", "squared_loss", "hinge_loss", "smooth_hinge_loss", "poisson_loss". Тип функции потерь прямой задачи. В настоящее время SdcaSolver поддерживает логистические, квадратичные и шарнирные функции потерь.
l1 Объект float. Сила симметричной регуляризации l1.
l2 Объект float. Сила симметричной регуляризации l2.
num_loss_partitions Объект int со значением >= 1. Количество разделов глобальной функции потерь.
num_inner_iterations Объект int со значением >= 1. Количество итераций на мини-пакет.
adaptative Необязательный объект bool. По умолчанию — True. Определяет, следует ли использовать Adaptive SDCA во внутреннем цикле.
name Имя операции (необязательно).
Возвращает
Кортеж объектов Tensor (out_example_state_data, out_delta_sparse_weights, out_delta_dense_weights).
out_example_state_data Объект Tensor типа float32.
out_delta_sparse_weights Список объектов Tensor типа float32, длина которого совпадает с длиной sparse_example_indices.
out_delta_dense_weights Список объектов Tensor типа float32, длина которого совпадает с длиной dense_features.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/compat/v1/train/sdca_optimizer

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API