BayesianRidge

classsklearn.linear_model.BayesianRidge(*, max_iter=300, tol=0.001, alpha_1=1e-06, alpha_2=1e-06, lambda_1=1e-06, lambda_2=1e-06, alpha_init=None, lambda_init=None, compute_score=False, fit_intercept=True, copy_X=True, verbose=False)[исходный код]

Байесовская гребневая регрессия.

Обучает байесовскую гребневую модель. Подробные сведения об этой реализации и оптимизации параметров регуляризации lambda (точность весов) и alpha (точность шума) см. в разделе «Примечания».

Подробнее см. в руководстве пользователя. Для наглядного представления того, как синусоида аппроксимируется полиномом при использовании разных пар начальных значений, см. Аппроксимация кривой с помощью байесовской гребневой регрессии.

Параметры:

max_iterint, default=300

Максимальное количество итераций по всему набору данных до остановки независимо от любых критериев ранней остановки.

Изменено в версии 1.3.

tolfloat, default=1e-3

Остановить алгоритм, если w сошёлся.

alpha_1float, default=1e-6

Гиперпараметр: параметр формы априорного гамма-распределения параметра alpha.

alpha_2float, default=1e-6

Гиперпараметр: параметр обратного масштаба (параметр интенсивности) априорного гамма-распределения параметра alpha.

lambda_1float, default=1e-6

Гиперпараметр: параметр формы априорного гамма-распределения параметра lambda.

lambda_2float, default=1e-6

Гиперпараметр: параметр обратного масштаба (параметр интенсивности) априорного гамма-распределения параметра lambda.

alpha_initfloat, default=None

Начальное значение alpha (точность шума). Если не задано, alpha_init равно 1/Var(y).

Добавлено в версии 0.22.

lambda_initfloat, default=None

Начальное значение lambda (точность весов). Если не задано, lambda_init равно 1.

Добавлено в версии 0.22.

compute_scorebool, default=False

Если True, вычислять логарифм маргинального правдоподобия на каждой итерации оптимизации.

fit_interceptbool, default=True

Следует ли вычислять свободный член этой модели. Свободный член не рассматривается как вероятностный параметр, поэтому с ним не связана дисперсия. Если задано значение False, свободный член не будет использоваться в вычислениях (то есть предполагается, что данные центрированы).

copy_Xbool, default=True

Если True, X будет скопирован; иначе он может быть перезаписан.

verbosebool, default=False

Режим подробного вывода при обучении модели.

Атрибуты:

coef_array-like of shape (n_features,)

Коэффициенты регрессионной модели (среднее распределения).

intercept_float

Свободный член функции принятия решения. Если fit_intercept = False, устанавливается в 0.0.

alpha_float

Оценённая точность шума.

lambda_float

Оценённая точность весов.

sigma_array-like of shape (n_features, n_features)

Оценённая ковариационная матрица весов.

scores_array-like of shape (n_iter_+1,)

Если compute_score равно True, значение логарифма маргинального правдоподобия (подлежащее максимизации) на каждой итерации оптимизации. Массив начинается со значения логарифма маргинального правдоподобия, полученного для начальных значений alpha и lambda, и заканчивается значением, полученным для оценённых alpha и lambda.

n_iter_int

Фактическое количество итераций, необходимое для достижения критерия остановки.

X_offset_ndarray of shape (n_features,)

Если fit_intercept=True, смещение, вычтенное для центрирования данных до нулевого среднего. В противном случае равно np.zeros(n_features).

X_scale_ndarray of shape (n_features,)

Равно np.ones(n_features).

n_features_in_int

Количество признаков, обнаруженных при вызове fit.

Добавлено в версии 0.24.

feature_names_in_ndarray of shape (n_features_in_,)

Названия признаков, обнаруженных при вызове fit. Определяется только в том случае, если X имеет названия признаков, представленные строками.

Добавлено в версии 1.0.

См. также

ARDRegression

Байесовская регрессия ARD.

Примечания

Существует несколько стратегий выполнения байесовской гребневой регрессии. Эта реализация основана на алгоритме, описанном в приложении A работы (Tipping, 2001), где обновление параметров регуляризации выполняется в соответствии с рекомендациями из (MacKay, 1992). Следует отметить, что, согласно работе «Новый взгляд на автоматическое определение релевантности» (Wipf and Nagarajan, 2008), эти правила обновления не гарантируют увеличения маргинального правдоподобия между двумя последовательными итерациями оптимизации.

Литература

D. J. C. MacKay, Bayesian Interpolation, Computation and Neural Systems, Vol. 4, No. 3, 1992.

M. E. Tipping, Sparse Bayesian Learning and the Relevance Vector Machine, Journal of Machine Learning Research, Vol. 1, 2001.

Примеры

>>> from sklearn import linear_model
>>> clf = linear_model.BayesianRidge()
>>> clf.fit([[0,0], [1, 1], [2, 2]], [0, 1, 2])
BayesianRidge()
>>> clf.predict([[1, 1]])
array([1.])

fit(X, y, sample_weight=None)[исходный код]

Обучить модель.

Параметры:

Xndarray of shape (n_samples, n_features)

Обучающие данные.

yndarray of shape (n_samples,)

Целевые значения. При необходимости тип данных будет приведён к типу данных X.

sample_weightndarray of shape (n_samples,), default=None

Индивидуальные веса для каждого образца.

Добавлено в версии 0.20: поддержка параметра sample_weight в BayesianRidge.

Возвращает:

selfobject

Возвращает сам экземпляр.

get_metadata_routing()[исходный код]

Получить настройки маршрутизации метаданных этого объекта.

О том, как работает механизм маршрутизации, см. в руководстве пользователя.

Возвращает:

routingMetadataRequest

Объект MetadataRequest, содержащий сведения о маршрутизации.

get_params(deep=True)[исходный код]

Получить параметры этого оценщика.

Параметры:

deepbool, default=True

Если True, возвращает параметры этого оценщика и содержащихся в нём объектов, которые являются оценщиками.

Возвращает:

paramsdict

Имена параметров, сопоставленные с их значениями.

predict(X, return_std=False)[исходный код]

Выполнить прогноз с помощью линейной модели.

Помимо среднего прогнозного распределения можно также вернуть его стандартное отклонение.

Параметры:

X{array-like, sparse matrix} of shape (n_samples, n_features)

Образцы.

return_stdbool, default=False

Возвращать ли стандартное отклонение апостериорного прогноза.

Возвращает:

y_meanarray-like of shape (n_samples,)

Среднее прогнозного распределения для точек запроса.

y_stdarray-like of shape (n_samples,)

Стандартное отклонение прогнозного распределения для точек запроса.

score(X, y, sample_weight=None)[исходный код]

Вернуть коэффициент детерминации на тестовых данных.

Коэффициент детерминации, \(R^2\), определяется как \((1 - \frac{u}{v})\), где \(u\) — сумма квадратов остатков ((y_true - y_pred)** 2).sum(), а \(v\) — общая сумма квадратов ((y_true - y_true.mean()) ** 2).sum(). Наилучшее возможное значение оценки — 1.0, но она также может быть отрицательной (поскольку модель может работать сколь угодно хуже). Постоянная модель, всегда прогнозирующая ожидаемое значение y без учёта входных признаков, получит оценку \(R^2\), равную 0.0.

Параметры:

Xarray-like of shape (n_samples, n_features)

Тестовые образцы. Для некоторых оценщиков это может быть предварительно вычисленная матрица ядра или список обычных объектов с формой (n_samples, n_samples_fitted), где n_samples_fitted — количество образцов, использованных при обучении оценщика.

yarray-like of shape (n_samples,) or (n_samples, n_outputs)

Истинные значения для X.

sample_weightarray-like of shape (n_samples,), default=None

Веса образцов.

Возвращает:

scorefloat

Значение \(R^2\) для self.predict(X) относительно y.

Примечания

Оценка \(R^2\), используемая при вызове score для регрессора, начиная с версии 0.23 использует multioutput='uniform_average', чтобы соответствовать значению по умолчанию r2_score. Это влияет на метод score всех регрессоров с несколькими выходами (за исключением MultiOutputRegressor).

set_fit_request(*, sample_weight:bool|None|str='$UNCHANGED$') → BayesianRidge[исходный код]

Настроить, следует ли запрашивать передачу метаданных методу fit.

Обратите внимание, что этот метод имеет значение только тогда, когда данный оценщик используется как подоценщик внутри метаоценщика и включена маршрутизация метаданных с помощью enable_metadata_routing=True (см. sklearn.set_config). О том, как работает механизм маршрутизации, см. в руководстве пользователя.

Для каждого параметра доступны следующие варианты:

• True: метаданные запрашиваются и передаются в fit, если они предоставлены. Если метаданные не предоставлены, запрос игнорируется.
• False: метаданные не запрашиваются, и метаоценщик не будет передавать их в fit.
• None: метаданные не запрашиваются; если пользователь их предоставит, метаоценщик вызовет ошибку.
• str: метаданные должны передаваться метаоценщику под указанным псевдонимом вместо исходного имени.

Значение по умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняет существующий запрос. Это позволяет изменить запрос для одних параметров, не меняя его для остальных.

Добавлено в версии 1.3.

Параметры:

sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для параметра sample_weight метода fit.

Возвращает:

selfobject

Обновлённый объект.

set_params(**params)[исходный код]

Задать параметры этого оценщика.

Метод работает как с простыми оценщиками, так и с вложенными объектами (например, Pipeline). Параметры последних имеют вид <component>__<parameter>, что позволяет обновлять каждый компонент вложенного объекта.

Параметры:

**paramsdict

Параметры оценщика.

Возвращает:

selfestimator instance

Экземпляр оценщика.

set_predict_request(*, return_std:bool|None|str='$UNCHANGED$') → BayesianRidge[исходный код]

Настроить, следует ли запрашивать передачу метаданных методу predict.

Обратите внимание, что этот метод имеет значение только тогда, когда данный оценщик используется как подоценщик внутри метаоценщика и включена маршрутизация метаданных с помощью enable_metadata_routing=True (см. sklearn.set_config). О том, как работает механизм маршрутизации, см. в руководстве пользователя.

Для каждого параметра доступны следующие варианты:

• True: метаданные запрашиваются и передаются в predict, если они предоставлены. Если метаданные не предоставлены, запрос игнорируется.
• False: метаданные не запрашиваются, и метаоценщик не будет передавать их в predict.
• None: метаданные не запрашиваются; если пользователь их предоставит, метаоценщик вызовет ошибку.
• str: метаданные должны передаваться метаоценщику под указанным псевдонимом вместо исходного имени.

Значение по умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняет существующий запрос. Это позволяет изменить запрос для одних параметров, не меняя его для остальных.

Добавлено в версии 1.3.

Параметры:

return_stdstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для параметра return_std метода predict.

Возвращает:

selfobject

Обновлённый объект.

set_score_request(*, sample_weight:bool|None|str='$UNCHANGED$') → BayesianRidge[исходный код]

Настроить, следует ли запрашивать передачу метаданных методу score.

Обратите внимание, что этот метод имеет значение только тогда, когда данный оценщик используется как подоценщик внутри метаоценщика и включена маршрутизация метаданных с помощью enable_metadata_routing=True (см. sklearn.set_config). О том, как работает механизм маршрутизации, см. в руководстве пользователя.

Для каждого параметра доступны следующие варианты:

• True: метаданные запрашиваются и передаются в score, если они предоставлены. Если метаданные не предоставлены, запрос игнорируется.
• False: метаданные не запрашиваются, и метаоценщик не будет передавать их в score.
• None: метаданные не запрашиваются; если пользователь их предоставит, метаоценщик вызовет ошибку.
• str: метаданные должны передаваться метаоценщику под указанным псевдонимом вместо исходного имени.

Значение по умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняет существующий запрос. Это позволяет изменить запрос для одних параметров, не меняя его для остальных.

Добавлено в версии 1.3.

Параметры:

sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для параметра sample_weight метода score.

Возвращает:

selfobject

Обновлённый объект.