Многозадачный Lasso

классsklearn.linear_model.MultiTaskLasso(alpha=1.0, *, fit_intercept=True, copy_X=True, max_iter=1000, tol=0.0001, warm_start=False, random_state=None, selection='cyclic')[source]

Модель Multi-task Lasso, обученная с использованием смешанной L1/L2-нормы в качестве регуляризатора.

Целевая функция оптимизации для Lasso:

(1 / (2 * n_samples)) * ||Y - XW||^2_Fro + alpha * ||W||_21

Где:

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

т.е. сумма норм каждой строки.

Подробнее см. в Руководстве пользователя.

Параметры:

alphafloat, по умолчанию=1.0

Постоянная, которая умножает член L1/L2. По умолчанию равна 1.0.

fit_interceptbool, по умолчанию=True

Вычислять ли свободный член для этой модели. Если установлено в false, свободный член не будет использоваться в вычислениях (т.е. предполагается, что данные центрированы).

copy_Xbool, по умолчанию=True

Если True, X будет скопирован; иначе, он может быть перезаписан.

max_iterint, по умолчанию=1000

Максимальное число итераций.

tolfloat, по умолчанию=1e-4

Допуск для оптимизации: если обновления меньше, чем tol, код оптимизации проверяет двойную разницу для оптимальности и продолжает до тех пор, пока она не станет меньше, чем tol.

warm_startbool, по умолчанию=False

Если установлено в True, повторно использовать решение предыдущего вызова fit в качестве начального приближения, в противном случае просто стереть предыдущее решение. См. Словарь.

random_stateint, RandomState instance, по умолчанию=None

Зерно генератора псевдослучайных чисел, выбирающего случайную черту для обновления. Используется, когда selection == ‘random’. Передайте целое число для воспроизводимого результата при нескольких вызовах функции. См. Словарь.

selection{‘cyclic’, ‘random’}, по умолчанию=’cyclic’

Если установлено в ‘random’, коэффициент обновляется случайным образом на каждой итерации вместо последовательного перебора признаков по умолчанию. Это (установка в ‘random’) часто приводит к значительно более быстрому сходимости, особенно когда tol больше, чем 1e-4.

Атрибуты:

coef_массив NumPy формы (n_targets, n_features)

Вектор параметров (W в формуле функции стоимости). Обратите внимание, что coef_ хранит транспонированный W, W.T.

intercept_массив NumPy формы (n_targets,)

Свободный член в функции принятия решения.

n_iter_int

Количество итераций, выполненных решателем градиентного спуска для достижения заданной точности.

dual_gap_массив NumPy формы (n_alphas,)

Двойные зазоры в конце оптимизации для каждого alpha.

eps_float

Допуск, масштабированный с учётом дисперсии целевой y.

sparse_coef_разреженная матрица формы (n_features,) или (n_targets, n_features)

Разреженное представление подогнанного coef_.

n_features_in_int

Количество признаков, увиденных во время fit.

Добавлен в версии 0.24.

feature_names_in_массив NumPy формы (n_features_in_,)

Названия признаков, увиденные во время fit. Определены только тогда, когда X имеет имена признаков, которые все являются строками.

Добавлен в версии 1.0.

См. также

Lasso

Линейная модель, обученная с L1-приоритетом в качестве регуляризатора (также известная как Lasso).

MultiTaskLassoCV

Многозадачная линейная модель с L1-регуляризацией и встроенной кросс-валидацией.

MultiTaskElasticNetCV

Многозадачный L1/L2 ElasticNet с встроенной кросс-валидацией.

Примечания

Алгоритм, используемый для обучения модели, — градиентный спуск.

Чтобы избежать ненужного дублирования памяти, аргументы X и y метода fit должны быть напрямую переданы как Fortran-непрерывные массивы NumPy.

Примеры

>>> from sklearn import linear_model
>>> clf = linear_model.MultiTaskLasso(alpha=0.1)
>>> clf.fit([[0, 1], [1, 2], [2, 4]], [[0, 0], [1, 1], [2, 3]])
MultiTaskLasso(alpha=0.1)
>>> print(clf.coef_)
[[0.         0.60809415]
[0.         0.94592424]]
>>> print(clf.intercept_)
[-0.41888636 -0.87382323]

fit(X, y)[source]

Обучение модели MultiTaskElasticNet с помощью градиентного спуска.

Параметры:

Xмассив NumPy формы (n_samples, n_features)

Данные.

yмассив NumPy формы (n_samples, n_targets)

Целевые значения. Будет приведено к типу X, если необходимо.

Возвращает:

selfобъект

Обученная модель.

Примечания

Градиентный спуск рассматривает каждый столбец данных по очереди, поэтому он автоматически преобразует входной X в Fortran-непрерывный массив NumPy, если необходимо.

Чтобы избежать перераспределения памяти, рекомендуется напрямую выделить начальные данные в памяти в этом формате.

get_metadata_routing()[source]

Получение маршрутизации метаданных этого объекта.

Пожалуйста, ознакомьтесь с Руководством пользователя по тому, как работает механизм маршрутизации.

Возвращает:

routingMetadataRequest

MetadataRequest с информацией о маршрутизации.

get_params(deep=True)[source]

Получение параметров этого оценщика.

Параметры:

deepbool, по умолчанию=True

Если True, вернет параметры этого оценщика и содержащихся в нем дочерних объектов, которые являются оценщиками.

Возвращает:

paramsdict

Имена параметров, сопоставленные с их значениями.

staticpath(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[source]

Вычисление пути эластичной сети с помощью координатного спуска.

Функция оптимизации эластичной сети варьируется для одновыходных и многовыходных задач.

Для одновыходных задач она равна:

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

Для многовыходных задач она равна:

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

Где:

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

т.е. сумма норм каждой строки.

Подробнее см. в Руководстве пользователя.

Параметры:

X{array-like, разреженная матрица} формы (n_samples, n_features)

Обучающие данные. Передаются напрямую как данные Fortran-contiguous, чтобы избежать ненужного копирования памяти. Если y является одновыходной, то X может быть разреженной.

y{array-like, разреженная матрица} формы (n_samples,) или (n_samples, n_targets)

Значения целевой переменной.

l1_ratiofloat, по умолчанию=0.5

Число от 0 до 1, передаваемое в эластичную сеть (масштабирование между L1 и L2 штрафами). l1_ratio=1 соответствует Лассо.

epsfloat, по умолчанию=1e-3

Длина пути. eps=1e-3 означает, что alpha_min / alpha_max = 1e-3.

n_alphasint, по умолчанию=100

Количество альфа вдоль пути регуляризации.

alphasarray-like, по умолчанию=None

Список альфа, где вычисляются модели. Если None, альфа устанавливаются автоматически.

precompute‘auto’, bool или array-like формы (n_features, n_features), по умолчанию=’auto’

Использовать ли предварительно вычисленную матрицу Грама для ускорения вычислений. Если установлено 'auto', позвольте нам решить. Матрица Грама также может быть передана в качестве аргумента.

Xyarray-like формы (n_features,) или (n_features, n_targets), по умолчанию=None

Xy = np.dot(X.T, y), которое можно предварительно вычислить. Оно полезно только когда предварительно вычислена матрица Грама.

copy_Xbool, по умолчанию=True

Если True, X будет скопирован; иначе, он может быть перезаписан.

coef_initarray-like формы (n_features, ), по умолчанию=None

Начальные значения коэффициентов.

verbosebool или int, по умолчанию=False

Уровень подробности.

return_n_iterbool, по умолчанию=False

Возвращать ли количество итераций.

positivebool, по умолчанию=False

Если установлено True, заставляет коэффициенты быть положительными. (Допускается только когда y.ndim == 1).

check_inputbool, по умолчанию=True

Если установлено False, проверки ввода пропущены (включая матрицу Грама, если она предоставлена). Предполагается, что они обрабатываются вызывающим объектом.

**paramskwargs

Параметры, передаваемые в решатель координатного спуска.

Возвращает:

alphasndarray формы (n_alphas,)

Альфа вдоль пути, где вычисляются модели.

coefsndarray формы (n_features, n_alphas) или (n_targets, n_features, n_alphas)

Коэффициенты вдоль пути.

dual_gapsndarray формы (n_alphas,)

Двойственные разрывы в конце оптимизации для каждого альфа.

n_itersсписок int

Количество итераций, необходимых оптимизатору координатного спуска для достижения заданной точности для каждого альфа. (Возвращается, когда return_n_iter установлено в True).

См. также

MultiTaskElasticNet

Модель многозадачного эластичного нета, обученная с L1/L2 смешанной нормой в качестве регуляризатора.

MultiTaskElasticNetCV

Многозадачная L1/L2 эластичная сеть со встроенной кросс-валидацией.

ElasticNet

Линейная регрессия с комбинированными L1 и L2 приоритетами в качестве регуляризатора.

ElasticNetCV

Модель эластичной сети с итеративным подбором по пути регуляризации.

Примечания

Пример см. в examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py.

Примеры

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])

predict(X)[source]

Предсказание с помощью линейной модели.

Параметры:

Xarray-like или разреженная матрица, форма (n_samples, n_features)

Образцы.

Возвращает:

Cмассив, форма (n_samples,)

Возвращает предсказанные значения.

score(X, y, sample_weight=None)[source]

Возвращает коэффициент детерминации предсказания.

Коэффициент детерминации \(R^2\) определяется как \((1 - \frac{u}{v})\), где \(u\) — сумма квадратов остатков ((y_true - y_pred)** 2).sum() и \(v\) — общая сумма квадратов ((y_true - y_true.mean()) ** 2).sum(). Лучший возможный результат равен 1,0, и он может быть отрицательным (поскольку модель может быть произвольно хуже). Постоянная модель, которая всегда предсказывает ожидаемое значение y, не учитывая входные признаки, получит значение \(R^2\) равное 0,0.

Параметры:

Xarray-like формы (n_samples, n_features)

Тестовые образцы. Для некоторых оценщиков это может быть предварительно вычисленная матрица ядер или список общих объектов вместо неё с формой (n_samples, n_samples_fitted), где n_samples_fitted — количество образцов, используемых в подгонке для оценщика.

yarray-like формы (n_samples,) или (n_samples, n_outputs)

Истинные значения для X.

sample_weightarray-like формы (n_samples,), по умолчанию = None

Веса образцов.

Возвращает:

scorefloat

\(R^2\) для self.predict(X) по отношению к y.

Примечания

Значение \(R^2\), используемое при вызове score для регрессора, использует multioutput='uniform_average' с версии 0.23, чтобы сохранить согласованность со значением по умолчанию r2_score. Это влияет на метод score всех регрессоров с несколькими выходами (кроме MultiOutputRegressor).

set_fit_request(*, sample_weight:bool|None|str='$UNCHANGED$') → MultiTaskLasso[source]

Запрос метаданных, переданных методу fit.

Обратите внимание, что этот метод актуален только если enable_metadata_routing=True (см. sklearn.set_config). См. Руководство пользователя о том, как работает механизм маршрутизации.

Варианты для каждого параметра:

• True: запрашиваются метаданные и передаются методу fit при их наличии. Запрос игнорируется, если метаданные не предоставлены.
• False: метаданные не запрашиваются, и мета-оценщик не передаст их методу fit.
• None: метаданные не запрашиваются, и мета-оценщик выдаст ошибку, если пользователь предоставит их.
• str: метаданные должны передаваться мета-оценщику с данным псевдонимом вместо оригинального названия.

По умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняется существующий запрос. Это позволяет изменить запрос для некоторых параметров, а не для других.

Добавлена в версии 1.3.

Примечание

Этот метод актуален только в случае, если этот оценщик используется в качестве под-оценщика мета-оценщика, например, внутри Pipeline. В противном случае он не оказывает влияния.

Параметры:

sample_weightstr, True, False, или None, по умолчанию=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для параметра sample_weight в fit.

Возвращает:

selfобъект

Обновленный объект.

set_params(**params)[source]

Устанавливает параметры этого оценщика.

Метод работает как с простыми оценщиками, так и с вложенными объектами (такими как Pipeline). Последние имеют параметры вида <component>__<parameter>, чтобы было возможно обновлять каждый компонент вложенного объекта.

Параметры:

**paramsdict

Параметры оценщика.

Возвращает:

selfэкземпляр оценщика

Экземпляр оценщика.

set_score_request(*, sample_weight:bool|None|str='$UNCHANGED$') → MultiTaskLasso[source]

Запрос метаданных, передаваемых методу score.

Обратите внимание, что этот метод актуален только если enable_metadata_routing=True (см. sklearn.set_config). Пожалуйста, обратитесь к Руководству пользователя, чтобы узнать, как работает механизм маршрутизации.

Варианты для каждого параметра:

• True: метаданные запрашиваются и передаются методу score, если они предоставлены. Запрос игнорируется, если метаданные не предоставлены.
• False: метаданные не запрашиваются, и мета-оценщик не передаст их методу score.
• None: метаданные не запрашиваются, и мета-оценщик выведет ошибку, если пользователь их предоставит.
• str: метаданные должны быть переданы мета-оценщику с этим псевдонимом вместо исходного имени.

По умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняется существующий запрос. Это позволяет изменять запросы для одних параметров и не изменять для других.

Добавлен в версии 1.3.

Примечание

Этот метод актуален только если этот оценщик используется в качестве под-оценщика мета-оценщика, например, внутри Pipeline. В противном случае он не оказывает никакого эффекта.

Parameters:

sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для параметра sample_weight в score.

Returns:

selfobject

Обновленный объект.

propertysparse_coef_

Разреженное представление полученного coef_.

Примеры из галереи

Совместный отбор признаков с помощью Multi-Task Lasso