KNeighborsRegressor

classsklearn.neighbors.KNeighborsRegressor(n_neighbors=5, *, weights='uniform', algorithm='auto', leaf_size=30, p=2, metric='minkowski', metric_params=None, n_jobs=None)[source]

Регрессия на основе k ближайших соседей.

Целевая переменная предсказывается с помощью локальной интерполяции целевых переменных, связанных с ближайшими соседями в обучающей выборке.

Подробнее см. в Руководстве пользователя.

Добавлен в версии 0.9.

Параметры:

n_neighborsint, по умолчанию=5

Количество соседей, используемых по умолчанию для запросов kneighbors.

weights{‘uniform’, ‘distance’}, callable или None, по умолчанию=’uniform’

Функция весов, используемая в предсказании. Возможные значения:

• ‘uniform’ : равные веса. Все точки в каждом окрестности имеют равные веса.
• ‘distance’ : веса точек обратно пропорциональны расстоянию. В этом случае, ближайшие соседи точки запроса будут иметь большее влияние, чем соседи, которые находятся дальше.
• [callable] : пользовательская функция, принимающая массив расстояний и возвращающая массив с тем же размером, содержащий веса.

По умолчанию используются равные веса.

Пример влияния различных схем весов на предсказания см. в: Регрессия ближайших соседей.

algorithm{‘auto’, ‘ball_tree’, ‘kd_tree’, ‘brute’}, по умолчанию=’auto’

Алгоритм, используемый для вычисления ближайших соседей:

• ‘ball_tree’ будет использовать BallTree
• ‘kd_tree’ будет использовать KDTree
• ‘brute’ будет использовать поиск с грубой силой.
• ‘auto’ попытается определить наиболее подходящий алгоритм на основе значений, переданных в метод fit.

Примечание: обучение на разреженных входных данных переопределит значение этого параметра, используя поиск с грубой силой.

leaf_sizeint, по умолчанию=30

Размер листа, передаваемый в BallTree или KDTree. Это может влиять на скорость построения и запроса, а также на требуемую память для хранения дерева. Оптимальное значение зависит от природы задачи.

pfloat, по умолчанию=2

Параметр степени для метрики Минковского. При p = 1, это эквивалентно использованию manhattan_distance (l1), а euclidean_distance (l2) для p = 2. Для произвольного p используется minkowski_distance (l_p).

metricstr, DistanceMetric object или callable, по умолчанию=’minkowski’

Метрика, используемая для вычисления расстояния. По умолчанию «minkowski», что приводит к стандартному евклидовому расстоянию при p = 2. См. документацию scipy.spatial.distance и перечисленные метрики в distance_metrics для допустимых значений метрики.

Если метрика «precomputed», X предполагается матрицей расстояний и должна быть квадратной во время подгонки. X может быть разреженной графой, в этом случае только «ненулевые» элементы могут рассматриваться как соседи.

Если метрика callable функция, она принимает два массива, представляющих 1D векторы, как вход и должна вернуть одно значение, указывающее расстояние между этими векторами. Это работает для метрик Scipy, но менее эффективно, чем передача имени метрики в виде строки.

Если метрика объект DistanceMetric, она будет передана непосредственно в вычислительные подпрограммы.

metric_paramsdict, по умолчанию=None

Дополнительные ключевые аргументы для функции метрики.

n_jobsint, по умолчанию=None

Количество параллельных задач для поиска соседей. None означает 1, за исключением контекста joblib.parallel_backend. -1 означает использование всех процессоров. См. Словарь для получения дополнительной информации. Не влияет на метод fit.

Атрибуты:

effective_metric_str или callable

Используемая метрика расстояния. Она будет такой же, как metric параметр или синоним его, например, ‘euclidean’, если metric параметр установлен в ‘minkowski’ и p параметр установлен в 2.

effective_metric_params_dict

Дополнительные ключевые аргументы для функции метрики. Для большинства метрик будут такими же, как metric_params параметр, но также могут содержать значение p параметра, если атрибут effective_metric_ установлен в ‘minkowski’.

n_features_in_int

Количество признаков, наблюдаемых во время подгонки.

Добавлен в версии 0.24.

feature_names_in_массив формы (n_features_in_,)

Имена признаков, наблюдаемые во время подгонки. Определяются только тогда, когда X имеет имена признаков, которые все являются строками.

Добавлен в версии 1.0.

n_samples_fit_int

Количество образцов в подогнанных данных.

См. также

NearestNeighbors

Неконтролируемый обучающий элемент для реализации поиска ближайших соседей.

RadiusNeighborsRegressor

Регрессия на основе соседей в пределах фиксированного радиуса.

KNeighborsClassifier

Классификатор, реализующий голосование k ближайших соседей.

RadiusNeighborsClassifier

Классификатор, реализующий голосование среди соседей в заданном радиусе.

Примечания

См. Ближайшие соседи в онлайн-документации для обсуждения выбора algorithm и leaf_size.

Предупреждение

Что касается алгоритмов ближайших соседей, если обнаружено, что два соседа, сосед k+1 и k, имеют одинаковые расстояния, но разные метки, результаты будут зависеть от порядка обучающих данных.

https://en.wikipedia.org/wiki/K-nearest_neighbors_algorithm

Примеры

>>> X = [[0], [1], [2], [3]]
>>> y = [0, 0, 1, 1]
>>> from sklearn.neighbors import KNeighborsRegressor
>>> neigh = KNeighborsRegressor(n_neighbors=2)
>>> neigh.fit(X, y)
KNeighborsRegressor(...)
>>> print(neigh.predict([[1.5]]))
[0.5]

fit(X, y)[source]

Обучение регрессора k ближайших соседей по обучающей выборке.

Параметры:

X{array-like, разреженная матрица} формы (n_samples, n_features) или (n_samples, n_samples), если metric=’precomputed’

Обучающие данные.

y{array-like, разреженная матрица} формы (n_samples,) или (n_samples, n_outputs)

Целевые значения.

Возвращает:

selfKNeighborsRegressor

Обученный регрессор k ближайших соседей.

get_metadata_routing()[source]

Получить маршрутизацию метаданных этого объекта.

Обратитесь к Руководству пользователя для получения информации о работе механизма маршрутизации.

Возвращает:

маршрутизацияMetadataRequest

Объект MetadataRequest, содержащий информацию о маршрутизации.

get_params(deep=True)[source]

Получить параметры этого оценщика.

Параметры:

глубокоbool, по умолчанию=True

Если True, вернет параметры этого оценщика и вложенных под-объектов, являющихся оценщиками.

Возвращает:

параметрыdict

Имена параметров, сопоставленные со значениями.

kneighbors(X=None, n_neighbors=None, return_distance=True)[source]

Найти K-ближайших соседей точки.

Возвращает индексы и расстояния до ближайших соседей каждой точки.

Параметры:

X{array-like, разреженная матрица}, форма (n_запросов, n_признаков), или (n_запросов, n_индексированных), если метрика == ‘precomputed’, по умолчанию=None

Точка или точки запроса. Если не указано, возвращаются соседи каждой индексированной точки. В этом случае точка запроса не считается своим соседом.

n_neighborsint, по умолчанию=None

Количество требуемых соседей для каждой выборки. По умолчанию используется значение, переданное в конструктор.

return_distancebool, по умолчанию=True

Возвращать ли расстояния.

Возвращает:

neigh_distndarray формы (n_запросов, n_соседей)

Массив, представляющий длины до точек, присутствует только если return_distance=True.

neigh_indndarray формы (n_запросов, n_соседей)

Индексы ближайших точек в матрице населения.

Примеры

В следующем примере мы создаём класс NearestNeighbors из массива, представляющего наш набор данных, и спрашиваем, какая точка является ближайшей к [1,1,1]

>>> samples = [[0., 0., 0.], [0., .5, 0.], [1., 1., .5]]
>>> from sklearn.neighbors import NearestNeighbors
>>> neigh = NearestNeighbors(n_neighbors=1)
>>> neigh.fit(samples)
NearestNeighbors(n_neighbors=1)
>>> print(neigh.kneighbors([[1., 1., 1.]]))
(array([[0.5]]), array([[2]]))

Как видите, он возвращает [[0.5]], и [[2]], что означает, что элемент находится на расстоянии 0.5 и является третьим элементом выборок (индексы начинаются с 0). Вы также можете запросить несколько точек:

>>> X = [[0., 1., 0.], [1., 0., 1.]]
>>> neigh.kneighbors(X, return_distance=False)
array([[1],
       [2]]...)

kneighbors_graph(X=None, n_neighbors=None, mode='connectivity')[source]

Вычислить (взвешенный) граф k-соседей для точек в X.

Параметры:

X{array-like, разреженная матрица} формы (n_запросов, n_признаков), или (n_запросов, n_индексированных), если метрика == ‘precomputed’, по умолчанию=None

Точка или точки запроса. Если не указано, возвращаются соседи каждой индексированной точки. В этом случае точка запроса не считается своим соседом. Для metric='precomputed' форма должна быть (n_запросов, n_индексированных). В противном случае форма должна быть (n_запросов, n_признаков).

n_neighborsint, по умолчанию=None

Количество соседей для каждой выборки. По умолчанию используется значение, переданное в конструктор.

mode{‘connectivity’, ‘distance’}, по умолчанию=’connectivity’

Тип возвращаемой матрицы: ‘connectivity’ вернёт матрицу связности с единицами и нулями, в ‘distance’ рёбра — расстояния между точками, тип расстояния зависит от выбранного параметра метрики в классе NearestNeighbors.

Возвращает:

Aразреженная матрица формы (n_запросов, n_выборок_в_адаптированных_данных)

n_samples_fit — число выборок в адаптированных данных. A[i, j] даёт вес ребра, соединяющего i и j. Матрица имеет формат CSR.

См. также

NearestNeighbors.radius_neighbors_graph

Вычислить (взвешенный) граф соседей для точек в X.

Примеры

>>> X = [[0], [3], [1]]
>>> from sklearn.neighbors import NearestNeighbors
>>> neigh = NearestNeighbors(n_neighbors=2)
>>> neigh.fit(X)
NearestNeighbors(n_neighbors=2)
>>> A = neigh.kneighbors_graph(X)
>>> A.toarray()
array([[1., 0., 1.],
       [0., 1., 1.],
       [1., 0., 1.]])

predict(X)[source]

Предсказать целевое значение для предоставленных данных.

Параметры:

X{array-like, разреженная матрица} формы (n_запросов, n_признаков), или (n_запросов, n_индексированных), если метрика == ‘precomputed’, или None

Тестируемые выборки. Если None, предсказания для всех индексированных точек возвращаются; в этом случае точки не считаются собственными соседями.

Возвращает:

yndarray формы (n_запросов,) или (n_запросов, n_выходов), dtype=int

Целевые значения.

score(X, y, sample_weight=None)[source]

Возвращает коэффициент детерминации предсказания.

Коэффициент детерминации \(R^2\) определяется как \((1 - \frac{u}{v})\), где \(u\) — остаточная сумма квадратов ((y_true - y_pred)** 2).sum() и \(v\) — общая сумма квадратов ((y_true - y_true.mean()) ** 2).sum(). Лучший возможный результат — 1.0, он может быть отрицательным (потому что модель может быть произвольно хуже). Постоянная модель, которая всегда предсказывает ожидаемое значение y, игнорируя входные признаки, получит значение \(R^2\) равное 0.0.

Параметры:

Xarray-like of shape (n_samples, n_features)

Тестовые образцы. Для некоторых оценок это может быть предварительно вычисленная матрица ядер или список общих объектов вместо этого с формой (n_samples, n_samples_fitted), где n_samples_fitted — количество образцов, используемых при подгонке для оценки.

yarray-like of shape (n_samples,) or (n_samples, n_outputs)

Истинные значения для X.

sample_weightarray-like of shape (n_samples,), default=None

Веса образцов.

Возвращает:

scorefloat

\(R^2\) для self.predict(X) по отношению к y.

Примечания

Значение \(R^2\), используемое при вызове score для регрессора, использует multioutput='uniform_average' с версии 0.23 для согласования со значением по умолчанию r2_score. Это влияет на метод score всех регрессоров с несколькими выходами (за исключением MultiOutputRegressor).

set_params(**params)[source]

Устанавливает параметры этого оценщика.

Метод работает как с простыми оценщиками, так и со вложенными объектами (такими как Pipeline). Последние имеют параметры вида <component>__<parameter> , чтобы можно было обновить каждый компонент вложенного объекта.

Параметры:

**paramsdict

Параметры оценщика.

Возвращает:

selfestimator instance

Экземпляр оценщика.

set_score_request(*, sample_weight:bool|None|str='$UNCHANGED$') → KNeighborsRegressor[source]

Запрашивает метаданные, передаваемые методу score.

Обратите внимание, что этот метод актуален только если enable_metadata_routing=True (см. sklearn.set_config). Пожалуйста, см. Руководство пользователя по тому, как работает механизм маршрутизации.

Варианты для каждого параметра:

• True: метаданные запрашиваются и передаются в score при необходимости. Запрос игнорируется, если метаданные не предоставлены.
• False: метаданные не запрашиваются, и метаоценщик не передаст их score.
• None: метаданные не запрашиваются, и метаоценщик выдаст ошибку, если пользователь предоставит их.
• str: метаданные должны передаваться метаоценщику с этим псевдонимом вместо оригинального имени.

По умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняется существующий запрос. Это позволяет изменить запрос для некоторых параметров, а не для других.

Добавлен в версии 1.3.

Примечание

Этот метод актуален только если этот оценщик используется как под-оценщик мета-оценщика, например, внутри Pipeline. В противном случае он не имеет эффекта.

Параметры:

sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для параметра sample_weight в score.

Возвращает:

selfobject

Обновленный объект.

Примеры из галереи

Заполнение лица с помощью оценщика с несколькими выходами

Заполнение пропущенных значений с помощью различных вариантов IterativeImputer

Регрессия с помощью ближайших соседей