tf.compat.v1.train.sdca_optimizer
Распределённая версия оптимизатора Stochastic Dual Coordinate Ascent (SDCA) для
tf.compat.v1.train.sdca_optimizer(
sparse_example_indices,
sparse_feature_indices,
sparse_feature_values,
dense_features,
example_weights,
example_labels,
sparse_indices,
sparse_weights,
dense_weights,
example_state_data,
loss_type,
l1,
l2,
num_loss_partitions,
num_inner_iterations,
adaptative=True,
name=None
)
линейных моделей с L1 + L2 регуляризацией. Поскольку глобальная целевая функция оптимизации строго выпуклая, оптимизатор оптимизирует двойственную целевую функцию на каждом шаге. Оптимизатор применяет каждый обновление по одному примеру за раз. Примеры выбираются равномерно, и оптимизатор не зависит от скорости обучения, а демонстрирует линейную скорость сходимости.
Proximal Stochastic Dual Coordinate Ascent.
Шаи Шалеф-Шварц, Тонг Чжан. 2012
\[ЦелеваяФункцияПотери = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|\]
Adding vs. Averaging in Distributed Primal-Dual Optimization.
Чэньсин Ма, Вирджиния Смит, Мартин Яджи, Майкл И. Джордан, Петер Рихтарик, Мартин Такач. 2015
Stochastic Dual Coordinate Ascent with Adaptive Probabilities.
Доминик Чсиба, Чжэн Ку, Петер Рихтарик. 2015
| Аргументы | |
|---|---|
sparse_example_indices | Список Tensor объектов типа int64. Список векторов, содержащих индексы примеров. |
sparse_feature_indices | Список такой же длины, как sparse_example_indices, содержащий Tensor объекты типа int64. Список векторов, содержащих индексы признаков. |
sparse_feature_values | Список Tensor объектов типа float32. Список векторов, содержащих значения признаков, связанные с каждой группой признаков. |
dense_features | Список Tensor объектов типа float32. Список матриц, содержащих плотные значения признаков. |
example_weights | Tensor типа float32. Вектор, содержащий вес, связанный с каждым примером. |
example_labels | Tensor типа float32. Вектор, содержащий метку/цель, связанную с каждым примером. |
sparse_indices | Список такой же длины, как sparse_example_indices, содержащий Tensor объекты типа int64. Список векторов, где каждое значение является индексами, соответствующими весам в sparse_weights. Это поле может быть опущено для плотного подхода. |
sparse_weights | Список такой же длины, как sparse_example_indices, содержащий Tensor объекты типа float32. Список векторов, где каждое значение представляет собой вес, связанный с группой разреженных признаков. |
dense_weights | Список такой же длины, как dense_features, содержащий Tensor объекты типа float32. Список векторов, где значения представляют собой веса, связанные с группой плотных признаков. |
example_state_data | Tensor типа float32. Список векторов, содержащих данные состояния примеров. |
loss_type | Тип первичной функции потерь из: "logistic_loss", "squared_loss", "hinge_loss", "smooth_hinge_loss", "poisson_loss". В настоящее время SdcaSolver поддерживает логистические, квадратичные и разрывные функции потерь. |
l1 | Сила симметричной регуляризации l1. |
l2 | Сила симметричной регуляризации l2. |
num_loss_partitions | Целое число, представляющее собой количество разбиений глобальной функции потерь. |
num_inner_iterations | Целое число, представляющее количество итераций на мини-пакет. |
adaptative | Необязательный параметр. По умолчанию True. Использовать адаптивный SDCA для внутреннего цикла. |
name | Название операции (необязательно). |
| Возвращаемые значения | |
|---|---|
Кортеж из Tensor объектов (out_example_state_data, out_delta_sparse_weights, out_delta_dense_weights). | |
out_example_state_data | Tensor типа float32. |
out_delta_sparse_weights | Список такой же длины, как sparse_example_indices, содержащий Tensor объекты типа float32. |
out_delta_dense_weights | Список такой же длины, как dense_features, содержащий Tensor объекты типа float32. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/compat/v1/train/sdca_optimizer