tf.compat.v1.train.sdca_optimizer
Распределенная версия оптимизатора стохастического двойственного покоординатного подъема (SDCA) для
tf.compat.v1.train.sdca_optimizer(
sparse_example_indices: Annotated[List[Any], _atypes.Int64],
sparse_feature_indices: Annotated[List[Any], _atypes.Int64],
sparse_feature_values: Annotated[List[Any], _atypes.Float32],
dense_features: Annotated[List[Any], _atypes.Float32],
example_weights: Annotated[Any, _atypes.Float32],
example_labels: Annotated[Any, _atypes.Float32],
sparse_indices: Annotated[List[Any], _atypes.Int64],
sparse_weights: Annotated[List[Any], _atypes.Float32],
dense_weights: Annotated[List[Any], _atypes.Float32],
example_state_data: Annotated[Any, _atypes.Float32],
loss_type: str,
l1: float,
l2: float,
num_loss_partitions: int,
num_inner_iterations: int,
adaptative: bool = True,
name=None
)
линейных моделей с регуляризацией L1 + L2. Поскольку глобальная целевая функция является сильно выпуклой, на каждом шаге оптимизатор оптимизирует двойственную целевую функцию. Оптимизатор применяет каждое обновление к одному примеру за раз. Примеры выбираются равномерно; оптимизатор не требует скорости обучения и обеспечивает линейную скорость сходимости.
Проксимальный стохастический двойственный покоординатный подъем.
Shai Shalev-Shwartz, Tong Zhang. 2012
\[Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|\]
Сложение и усреднение в распределенной прямой-двойственной оптимизации.
Chenxin Ma, Virginia Smith, Martin Jaggi, Michael I. Jordan, Peter Richtarik, Martin Takac. 2015
Стохастический двойственный покоординатный подъем с адаптивными вероятностями.
Dominik Csiba, Zheng Qu, Peter Richtarik. 2015
| Аргументы | |
|---|---|
sparse_example_indices | Список объектов Tensor типа int64. Список векторов, содержащих индексы примеров. |
sparse_feature_indices | Список объектов Tensor типа int64, длина которого совпадает с длиной sparse_example_indices. Список векторов, содержащих индексы признаков. |
sparse_feature_values | Список объектов Tensor типа float32. Список векторов, содержащих значения признаков для каждой группы признаков. |
dense_features | Список объектов Tensor типа float32. Список матриц, содержащих плотные значения признаков. |
example_weights | Объект Tensor типа float32. Вектор, содержащий вес, связанный с каждым примером. |
example_labels | Объект Tensor типа float32. Вектор, содержащий метку/целевое значение, связанное с каждым примером. |
sparse_indices | Список объектов Tensor типа int64, длина которого совпадает с длиной sparse_example_indices. Список векторов, где каждое значение — это индексы, которым соответствуют веса в sparse_weights. Это поле можно опустить при использовании плотного подхода. |
sparse_weights | Список объектов Tensor типа float32, длина которого совпадает с длиной sparse_example_indices. Список векторов, где каждое значение — вес, связанный с разреженной группой признаков. |
dense_weights | Список объектов Tensor типа float32, длина которого совпадает с длиной dense_features. Список векторов, значения которых являются весами, связанными с плотной группой признаков. |
example_state_data | Объект Tensor типа float32. Список векторов, содержащих данные о состоянии примеров. |
loss_type | Объект string из: "logistic_loss", "squared_loss", "hinge_loss", "smooth_hinge_loss", "poisson_loss". Тип функции потерь прямой задачи. В настоящее время SdcaSolver поддерживает логистические, квадратичные и шарнирные функции потерь. |
l1 | Объект float. Сила симметричной регуляризации l1. |
l2 | Объект float. Сила симметричной регуляризации l2. |
num_loss_partitions | Объект int со значением >= 1. Количество разделов глобальной функции потерь. |
num_inner_iterations | Объект int со значением >= 1. Количество итераций на мини-пакет. |
adaptative | Необязательный объект bool. По умолчанию — True. Определяет, следует ли использовать Adaptive SDCA во внутреннем цикле. |
name | Имя операции (необязательно). |
| Возвращает | |
|---|---|
Кортеж объектов Tensor (out_example_state_data, out_delta_sparse_weights, out_delta_dense_weights). | |
out_example_state_data | Объект Tensor типа float32. |
out_delta_sparse_weights | Список объектов Tensor типа float32, длина которого совпадает с длиной sparse_example_indices. |
out_delta_dense_weights | Список объектов Tensor типа float32, длина которого совпадает с длиной dense_features. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/compat/v1/train/sdca_optimizer