ARDRegression

classsklearn.linear_model.ARDRegression(*, max_iter=300, tol=0.001, alpha_1=1e-06, alpha_2=1e-06, lambda_1=1e-06, lambda_2=1e-06, compute_score=False, threshold_lambda=10000.0, fit_intercept=True, copy_X=True, verbose=False)[исходный код]

Байесовская регрессия ARD.

Настройка весов модели регрессии с использованием априорного распределения ARD. Предполагается, что веса модели регрессии имеют гауссовы распределения. Также оцениваются параметры lambda (точности распределений весов) и alpha (точность распределения шума). Оценивание выполняется итеративно (максимизация свидетельства).

Подробнее см. в Руководстве пользователя.

Параметры:

max_iterint, по умолчанию=300

Максимальное число итераций.

Изменено в версии 1.3.

tolfloat, по умолчанию=1e-3

Остановить алгоритм, если w сошёлся.

alpha_1float, по умолчанию=1e-6

Гиперпараметр: параметр формы априорного гамма-распределения для параметра alpha.

alpha_2float, по умолчанию=1e-6

Гиперпараметр: параметр обратного масштаба (параметр интенсивности) априорного гамма-распределения для параметра alpha.

lambda_1float, по умолчанию=1e-6

Гиперпараметр: параметр формы априорного гамма-распределения для параметра lambda.

lambda_2float, по умолчанию=1e-6

Гиперпараметр: параметр обратного масштаба (параметр интенсивности) априорного гамма-распределения для параметра lambda.

compute_scorebool, по умолчанию=False

Если True, вычислять целевую функцию на каждом шаге построения модели.

threshold_lambdafloat, по умолчанию=10 000

Порог для исключения (отсечения) из вычислений весов с высокой точностью.

fit_interceptbool, по умолчанию=True

Следует ли вычислять свободный член для этой модели. Если установлено значение false, свободный член не будет использоваться в вычислениях (то есть ожидается, что данные центрированы).

copy_Xbool, по умолчанию=True

Если True, X будет скопирован; иначе он может быть перезаписан.

verbosebool, по умолчанию=False

Подробный режим при обучении модели.

Атрибуты:

coef_array-like формы (n_features,)

Коэффициенты модели регрессии (среднее распределения).

alpha_float

Оценённая точность шума.

lambda_array-like формы (n_features,)

Оценённые точности весов.

sigma_array-like формы (n_features, n_features)

Оценённая ковариационная матрица весов.

scores_float

Если вычислено, значение целевой функции (подлежит максимизации).

n_iter_int

Фактическое число итераций, необходимое для достижения критерия остановки.

Добавлено в версии 1.3.

intercept_float

Свободный член в функции принятия решения. Установлен в 0.0, если fit_intercept = False.

X_offset_float

Если fit_intercept=True, смещение, вычитаемое для центрирования данных с нулевым средним. В противном случае установлено значение np.zeros(n_features).

X_scale_float

Установлено значение np.ones(n_features).

n_features_in_int

Число признаков, обнаруженных во время обучения.

Добавлено в версии 0.24.

feature_names_in_ndarray формы (n_features_in_,)

Названия признаков, обнаруженных во время обучения. Определяется, только если X содержит названия признаков, представленные строками.

Добавлено в версии 1.0.

См. также

BayesianRidge

Байесовская гребневая регрессия.

Ссылки

D. J. C. MacKay, Bayesian nonlinear modeling for the prediction competition, ASHRAE Transactions, 1994.

R. Salakhutdinov, Lecture notes on Statistical Machine Learning, http://www.utstat.toronto.edu/~rsalakhu/sta4273/notes/Lecture2.pdf#page=15 Их beta — это наш self.alpha_, их alpha — это наш self.lambda_. ARD немного отличается от слайда: сохраняются только измерения/признаки, для которых self.lambda_ < self.threshold_lambda, а остальные отбрасываются.

Примеры

>>> from sklearn import linear_model
>>> clf = linear_model.ARDRegression()
>>> clf.fit([[0,0], [1, 1], [2, 2]], [0, 1, 2])
ARDRegression()
>>> clf.predict([[1, 1]])
array([1.])

• Сравнение линейных байесовских регрессоров демонстрирует регрессию ARD.
• Модели на основе L1 для разреженных сигналов демонстрирует регрессию ARD наряду с Lasso и Elastic-Net на разреженных коррелированных сигналах с шумом.

fit(X, y)[исходный код]

Обучить модель по заданным обучающим данным и параметрам.

Итеративная процедура максимизации свидетельства.

Параметры:

Xarray-like формы (n_samples, n_features)

Обучающий вектор, где n_samples — число образцов, а n_features — число признаков.

yarray-like формы (n_samples,)

Целевые значения (целые числа). При необходимости будут приведены к типу данных X.

Возвращает:

selfobject

Обученный оцениватель.

get_metadata_routing()[исходный код]

Получить сведения о маршрутизации метаданных этого объекта.

О том, как работает механизм маршрутизации, см. в Руководстве пользователя.

Возвращает:

routingMetadataRequest

Объект MetadataRequest, содержащий сведения о маршрутизации.

get_params(deep=True)[исходный код]

Получить параметры этого оценивателя.

Параметры:

deepbool, по умолчанию=True

Если True, будут возвращены параметры этого оценивателя и содержащихся в нём подобъектов, являющихся оценивателями.

Возвращает:

paramsdict

Имена параметров, сопоставленные их значениям.

predict(X, return_std=False)[исходный код]

Выполнить прогноз с помощью линейной модели.

Помимо среднего предиктивного распределения можно также вернуть его стандартное отклонение.

Параметры:

X{array-like, разреженная матрица} формы (n_samples, n_features)

Образцы.

return_stdbool, по умолчанию=False

Следует ли возвращать стандартное отклонение апостериорного прогноза.

Возвращает:

y_meanarray-like формы (n_samples,)

Среднее предиктивного распределения для точек запроса.

y_stdarray-like формы (n_samples,)

Стандартное отклонение предиктивного распределения для точек запроса.

score(X, y, sample_weight=None)[исходный код]

Вернуть коэффициент детерминации на тестовых данных.

Коэффициент детерминации \(R^2\) определяется как \((1 - \frac{u}{v})\), где \(u\) — остаточная сумма квадратов ((y_true - y_pred)** 2).sum(), а \(v\) — общая сумма квадратов ((y_true - y_true.mean()) ** 2).sum(). Наилучшее возможное значение оценки — 1.0; она также может быть отрицательной (поскольку модель может быть сколь угодно хуже). Константная модель, всегда предсказывающая ожидаемое значение y и не учитывающая входные признаки, получит оценку \(R^2\), равную 0.0.

Параметры:

Xarray-like формы (n_samples, n_features)

Тестовые образцы. Для некоторых оценивателей вместо этого может передаваться предварительно вычисленная матрица ядра или список обобщённых объектов формы (n_samples, n_samples_fitted), где n_samples_fitted — число образцов, использованных при обучении оценивателя.

yarray-like формы (n_samples,) или (n_samples, n_outputs)

Истинные значения для X.

sample_weightarray-like формы (n_samples,), по умолчанию=None

Веса образцов.

Возвращает:

scorefloat

Значение \(R^2\) для self.predict(X) относительно y.

Примечания

Оценка \(R^2\), используемая при вызове score для регрессора, начиная с версии 0.23 использует multioutput='uniform_average' для согласования со значением по умолчанию r2_score. Это влияет на метод score всех регрессоров с несколькими выходами (за исключением MultiOutputRegressor).

set_params(**params)[исходный код]

Задать параметры этого оценивателя.

Метод работает как с простыми оценивателями, так и с вложенными объектами (например, Pipeline). Параметры последних имеют вид <component>__<parameter>, что позволяет обновлять каждый компонент вложенного объекта.

Параметры:

**paramsdict

Параметры оценивателя.

Возвращает:

selfэкземпляр оценивателя

Экземпляр оценивателя.

set_predict_request(*, return_std:bool|None|str='$UNCHANGED$') → ARDRegression[исходный код]

Настроить, следует ли запрашивать передачу метаданных методу predict.

Обратите внимание: этот метод имеет значение только тогда, когда данный оцениватель используется как подоцениватель внутри метаоценивателя и маршрутизация метаданных включена с помощью enable_metadata_routing=True (см. sklearn.set_config). О том, как работает механизм маршрутизации, см. в Руководстве пользователя.

Для каждого параметра доступны следующие варианты:

• True: метаданные запрашиваются и, если предоставлены, передаются в predict. Запрос игнорируется, если метаданные не предоставлены.
• False: метаданные не запрашиваются, и метаоцениватель не будет передавать их в predict.
• None: метаданные не запрашиваются, и метаоцениватель вызовет ошибку, если пользователь их предоставит.
• str: метаданные следует передавать метаоценивателю под указанным псевдонимом вместо исходного имени.

Значение по умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняет текущий запрос. Это позволяет изменить запрос для одних параметров, не меняя его для других.

Добавлено в версии 1.3.

Параметры:

return_stdstr, True, False или None, по умолчанию=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для параметра return_std в predict.

Возвращает:

selfobject

Обновлённый объект.

set_score_request(*, sample_weight:bool|None|str='$UNCHANGED$') → ARDRegression[исходный код]

Настроить, следует ли запрашивать передачу метаданных методу score.

Обратите внимание: этот метод имеет значение только тогда, когда данный оцениватель используется как подоцениватель внутри метаоценивателя и маршрутизация метаданных включена с помощью enable_metadata_routing=True (см. sklearn.set_config). О том, как работает механизм маршрутизации, см. в Руководстве пользователя.

Для каждого параметра доступны следующие варианты:

• True: метаданные запрашиваются и, если предоставлены, передаются в score. Запрос игнорируется, если метаданные не предоставлены.
• False: метаданные не запрашиваются, и метаоцениватель не будет передавать их в score.
• None: метаданные не запрашиваются, и метаоцениватель вызовет ошибку, если пользователь их предоставит.
• str: метаданные следует передавать метаоценивателю под указанным псевдонимом вместо исходного имени.

Значение по умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняет текущий запрос. Это позволяет изменить запрос для одних параметров, не меняя его для других.

Добавлено в версии 1.3.

Параметры:

sample_weightstr, True, False или None, по умолчанию=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для параметра sample_weight в score.

Возвращает:

selfobject

Обновлённый объект.

Примеры из галереи

Сравнение линейных байесовских регрессоров

Модели на основе L1 для разреженных сигналов