VotingRegressor

classsklearn.ensemble.VotingRegressor(estimators, *, weights=None, n_jobs=None, verbose=False)[источник]

Регрессор с голосованием для прогнозирования, использующий необученные оцениватели.

Регрессор с голосованием — это метаоцениватель ансамбля, который обучает несколько базовых регрессоров, каждый на всём наборе данных. Затем он усредняет отдельные прогнозы, чтобы получить итоговый прогноз.

Подробный пример см. в разделе Построение графика индивидуальных прогнозов регрессии и прогнозов с голосованием.

Подробнее см. в руководстве пользователя.

Добавлено в версии 0.21.

Параметры:

estimatorslist of (str, estimator) tuples

Вызов метода fit для VotingRegressor обучит копии исходных оценивателей, которые будут сохранены в атрибуте класса self.estimators_. Оценивателю можно присвоить значение 'drop' с помощью set_params.

Изменено в версии 0.21: принимается 'drop'. Использование None объявлено устаревшим в версии 0.22, а поддержка удалена в версии 0.24.

weightsarray-like of shape (n_regressors,), default=None

Последовательность весов (float или int) для взвешивания прогнозируемых значений перед усреднением. Если задано None, используются равномерные веса.

n_jobsint, default=None

Количество параллельно выполняемых задач для fit. Значение None означает 1, если не используется контекст joblib.parallel_backend. Значение -1 означает использование всех процессоров. Подробнее см. в глоссарии.

verbosebool, default=False

Если True, по завершении обучения будет выведено затраченное на него время.

Добавлено в версии 0.23.

Атрибуты:

estimators_list of regressors

Коллекция обученных подоценивателей, определённых в estimators, за исключением оценивателей со значением ‘drop’.

named_estimators_Bunch

Атрибут для доступа к любому обученному подоценивателю по имени.

Добавлено в версии 0.20.

n_features_in_int

Количество признаков, обнаруженных при вызове fit.

feature_names_in_ndarray of shape (n_features_in_,)

Имена признаков, обнаруженных при вызове fit. Определён только в том случае, если базовые оцениватели предоставляют такой атрибут при обучении.

Добавлено в версии 1.0.

См. также

VotingClassifier

Классификатор с мягким голосованием/правилом большинства.

Примеры

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression
>>> from sklearn.ensemble import RandomForestRegressor
>>> from sklearn.ensemble import VotingRegressor
>>> from sklearn.neighbors import KNeighborsRegressor
>>> r1 = LinearRegression()
>>> r2 = RandomForestRegressor(n_estimators=10, random_state=1)
>>> r3 = KNeighborsRegressor()
>>> X = np.array([[1, 1], [2, 4], [3, 9], [4, 16], [5, 25], [6, 36]])
>>> y = np.array([2, 6, 12, 20, 30, 42])
>>> er = VotingRegressor([('lr', r1), ('rf', r2), ('r3', r3)])
>>> print(er.fit(X, y).predict(X))
[ 6.8  8.4 12.5 17.8 26  34]

В следующем примере мы исключаем оцениватель 'lr' с помощью set_params и обучаем два оставшихся оценивателя:

>>> er = er.set_params(lr='drop')
>>> er = er.fit(X, y)
>>> len(er.estimators_)
2

fit(X, y, **fit_params)[источник]

Обучить оцениватели.

Параметры:

X{array-like, sparse matrix} of shape (n_samples, n_features)

Обучающие векторы, где n_samples — количество образцов, а n_features — количество признаков.

yarray-like of shape (n_samples,)

Целевые значения.

**fit_paramsdict

Параметры, передаваемые базовым оценивателям.

Добавлено в версии 1.5: Доступно только при условии enable_metadata_routing=True, которое можно задать с помощью sklearn.set_config(enable_metadata_routing=True). Подробнее см. в руководстве пользователя по маршрутизации метаданных.

Возвращает:

selfobject

Обученный оцениватель.

fit_transform(X, y=None, **fit_params)[источник]

Возвращает метки классов или вероятности для каждого оценивателя.

Возвращает прогнозы для X, полученные каждым оценивателем.

Параметры:

X{array-like, sparse matrix, dataframe} of shape (n_samples, n_features)

Входные образцы.

yndarray of shape (n_samples,), default=None

Целевые значения (None для преобразований без учителя).

**fit_paramsdict

Дополнительные параметры обучения.

Возвращает:

X_newndarray array of shape (n_samples, n_features_new)

Преобразованный массив.

get_feature_names_out(input_features=None)[источник]

Получить имена выходных признаков для преобразования.

Параметры:

input_featuresarray-like of str or None, default=None

Не используется; параметр добавлен для согласованности API.

Возвращает:

feature_names_outndarray of str objects

Имена преобразованных признаков.

get_metadata_routing()[источник]

Получить сведения о маршрутизации метаданных этого объекта.

Описание работы механизма маршрутизации см. в руководстве пользователя.

Добавлено в версии 1.5.

Возвращает:

routingMetadataRouter

MetadataRouter, содержащий сведения о маршрутизации.

get_params(deep=True)[источник]

Получить параметры оценивателя из ансамбля.

Возвращает параметры, заданные в конструкторе, а также оцениватели, содержащиеся в параметре estimators.

Параметры:

deepbool, default=True

Если задано True, также возвращает различные оцениватели и их параметры.

Возвращает:

paramsdict

Имена параметров и оценивателей сопоставлены с их значениями либо имена параметров — с их значениями.

propertynamed_estimators

Словарь для доступа к любому обученному подоценивателю по имени.

Возвращает:

Bunch

predict(X)[источник]

Предсказать целевое значение регрессии для X.

Прогнозируемое целевое значение регрессии для входного образца вычисляется как среднее целевых значений регрессии, спрогнозированных оценивателями ансамбля.

Параметры:

X{array-like, sparse matrix} of shape (n_samples, n_features)

Входные образцы.

Возвращает:

yndarray of shape (n_samples,)

Прогнозируемые значения.

score(X, y, sample_weight=None)[источник]

Возвращает коэффициент детерминации для тестовых данных.

Коэффициент детерминации \(R^2\) определяется как \((1 - \frac{u}{v})\), где \(u\) — сумма квадратов остатков ((y_true - y_pred)** 2).sum(), а \(v\) — общая сумма квадратов ((y_true - y_true.mean()) ** 2).sum(). Наилучшее возможное значение оценки — 1.0, но она может быть отрицательной (так как модель может работать сколь угодно хуже). Постоянная модель, всегда предсказывающая ожидаемое значение y без учёта входных признаков, получит оценку \(R^2\), равную 0.0.

Параметры:

Xarray-like of shape (n_samples, n_features)

Тестовые образцы. Для некоторых оценивателей это может быть предварительно вычисленная матрица ядра или список произвольных объектов формы (n_samples, n_samples_fitted), где n_samples_fitted — количество образцов, использованных при обучении оценивателя.

yarray-like of shape (n_samples,) or (n_samples, n_outputs)

Истинные значения для X.

sample_weightarray-like of shape (n_samples,), default=None

Веса образцов.

Возвращает:

scorefloat

Значение \(R^2\) для self.predict(X) относительно y.

Примечания

Оценка \(R^2\), используемая при вызове score для регрессора, начиная с версии 0.23 использует multioutput='uniform_average', чтобы соответствовать значению по умолчанию r2_score. Это влияет на метод score всех регрессоров с несколькими выходами (кроме MultiOutputRegressor).

set_output(*, transform=None)[источник]

Задать контейнер выходных данных.

Подробнее см. в руководстве пользователя. Пример использования API см. в разделе Знакомство с API set_output.

Параметры:

transform{“default”, “pandas”, “polars”}, default=None

Настроить формат вывода для transform и fit_transform.

• "default": формат вывода преобразователя по умолчанию
• "pandas": вывод в формате DataFrame
• "polars": вывод в формате Polars
• None: конфигурация преобразования не изменяется

Добавлено в версии 1.4: Добавлен параметр "polars".

Возвращает:

selfestimator instance

Экземпляр оценивателя.

set_params(**params)[источник]

Задать параметры оценивателя из ансамбля.

Допустимые ключи параметров можно получить с помощью get_params(). Обратите внимание, что параметры оценивателей, содержащихся в estimators, можно задавать напрямую.

Параметры:

**paramskeyword arguments

Конкретные параметры, например set_params(parameter_name=new_value). Помимо задания параметров оценивателя, можно задать отдельные оцениватели из коллекции или удалить их, присвоив им значение ‘drop’.

Возвращает:

selfobject

Экземпляр оценивателя.

set_score_request(*, sample_weight:bool|None|str='$UNCHANGED$') → VotingRegressor[источник]

Настроить, следует ли запрашивать передачу метаданных методу score.

Обратите внимание: этот метод имеет значение только в том случае, если данный оцениватель используется как подоцениватель внутри метаоценивателя и маршрутизация метаданных включена с помощью enable_metadata_routing=True (см. sklearn.set_config). Описание работы механизма маршрутизации см. в руководстве пользователя.

Для каждого параметра доступны следующие варианты:

• True: метаданные запрашиваются и передаются в score, если они предоставлены. Если метаданные не предоставлены, запрос игнорируется.
• False: метаданные не запрашиваются, и метаоцениватель не передаёт их в score.
• None: метаданные не запрашиваются, и метаоцениватель вызовет ошибку, если пользователь их предоставит.
• str: метаданные следует передать метаоценивателю под указанным псевдонимом вместо исходного имени.

Значение по умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняет существующий запрос. Это позволяет изменить запрос для некоторых параметров, не затрагивая остальные.

Добавлено в версии 1.3.

Параметры:

sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для параметра sample_weight в score.

Возвращает:

selfobject

Обновлённый объект.

transform(X)[источник]

Возвращает прогнозы для X, полученные каждым оценивателем.

Параметры:

X{array-like, sparse matrix} of shape (n_samples, n_features)

Входные образцы.

Возвращает:

predictionsndarray of shape (n_samples, n_classifiers)

Значения, спрогнозированные каждым регрессором.

Примеры из галереи

Объединение предикторов с помощью стекинга

Построение графика индивидуальных прогнозов регрессии и прогнозов с голосованием