tf.raw_ops.SdcaOptimizer
Распределённая версия оптимизатора стохастического двойственного метода координатного восхождения (SDCA) для
tf.raw_ops.SdcaOptimizer(
sparse_example_indices,
sparse_feature_indices,
sparse_feature_values,
dense_features,
example_weights,
example_labels,
sparse_indices,
sparse_weights,
dense_weights,
example_state_data,
loss_type,
l1,
l2,
num_loss_partitions,
num_inner_iterations,
adaptative=True,
name=None
)
линейных моделей с регуляризацией L1 + L2. Поскольку глобальная целевая функция оптимизации является строго выпуклой, оптимизатор оптимизирует двойственную целевую функцию на каждом шаге. Оптимизатор применяет каждое обновление по одному примеру за раз. Примеры выбираются равномерно, и оптимизатор не зависит от скорости обучения и обладает линейной скоростью сходимости.
Приближённый стохастический двойственный координатный спуск.
Shai Shalev-Shwartz, Tong Zhang. 2012
\[Целевая функция потерь = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|\]
Добавление против усреднения в распределённой оптимизации по двойственному первичному методу.
Chenxin Ma, Virginia Smith, Martin Jaggi, Michael I. Jordan, Peter Richtarik, Martin Takac. 2015
Стохастический двойственный метод координатного восхождения с адаптивными вероятностями.
Dominik Csiba, Zheng Qu, Peter Richtarik. 2015
| Аргументы | |
|---|---|
sparse_example_indices | Список объектов типа int64, содержащих индексы примеров. |
sparse_feature_indices | Список той же длины, что и sparse_example_indices, содержащий объекты типа int64, содержащих индексы признаков. |
sparse_feature_values | Список объектов типа float32, содержащих значения признаков, связанные с каждой группой признаков. |
dense_features | Список матриц типа float32, содержащих плотные значения признаков. |
example_weights | Вектор типа float32, содержащий вес, связанный с каждым примером. |
example_labels | Вектор типа float32, содержащий метку/цель, связанную с каждым примером. |
sparse_indices | Список той же длины, что и sparse_example_indices, содержащий объекты типа int64, содержащих индексы, соответствующие весам в sparse_weights. Это поле можно опустить для плотного подхода. |
sparse_weights | Список той же длины, что и sparse_example_indices, содержащий объекты типа float32, содержащий вес, связанный с каждой группой разреженных признаков. |
dense_weights | Список той же длины, что и dense_features, содержащий объекты типа float32, содержащий вес, связанный с каждой группой плотных признаков. |
example_state_data | Вектор типа float32, содержащий данные состояния примера. |
loss_type | Тип первичной функции потерь из: "logistic_loss", "squared_loss", "hinge_loss", "smooth_hinge_loss", "poisson_loss". В настоящее время SdcaSolver поддерживает логистические, квадратичные и пороговые потери. |
l1 | Сила регуляризации L1. |
l2 | Сила регуляризации L2. |
num_loss_partitions | Число разбиений глобальной функции потерь. |
num_inner_iterations | Количество итераций на мини-пакет. |
adaptative | Необязательный флаг, по умолчанию True. Использовать ли адаптивный SDCA для внутреннего цикла. |
name | Название операции (необязательно). |
| Возвращаемое значение | |
|---|---|
Кортеж объектов Tensor (out_example_state_data, out_delta_sparse_weights, out_delta_dense_weights). | |
out_example_state_data | Вектор типа float32. |
out_delta_sparse_weights | Список объектов типа float32 той же длины, что и sparse_example_indices. |
out_delta_dense_weights | Список объектов типа float32 той же длины, что и dense_features. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/SdcaOptimizer