Примечание

Перейти к концу для скачивания полного примера кода. Или запустить этот пример в вашем браузере через JupyterLite или Binder

SVM-Anova: SVM с отбором признаков по однофакторному анализу

В этом примере показано, как выполнить отбор признаков по однофакторному анализу перед запуском SVC (классификатора опорных векторов), чтобы улучшить результаты классификации. Мы используем набор данных iris (4 признака) и добавляем 36 неинформативных признаков. Мы можем увидеть, что наша модель достигает наилучшей производительности, когда выбирается около 10% признаков.

# Authors: The scikit-learn developers
# SPDX-License-Identifier: BSD-3-Clause

Загрузка данных для работы

import numpy as np

from sklearn.datasets import load_iris

X, y = load_iris(return_X_y=True)

# Add non-informative features
rng = np.random.RandomState(0)
X = np.hstack((X, 2 * rng.random((X.shape[0], 36))))

Создание конвейера

from sklearn.feature_selection import SelectPercentile, f_classif
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.svm import SVC

# Create a feature-selection transform, a scaler and an instance of SVM that we
# combine together to have a full-blown estimator

clf = Pipeline(
    [
        ("anova", SelectPercentile(f_classif)),
        ("scaler", StandardScaler()),
        ("svc", SVC(gamma="auto")),
    ]
)

Построение графика оценки перекрестной проверки в зависимости от процентиля признаков

import matplotlib.pyplot as plt

from sklearn.model_selection import cross_val_score

score_means = list()
score_stds = list()
percentiles = (1, 3, 6, 10, 15, 20, 30, 40, 60, 80, 100)

for percentile in percentiles:
    clf.set_params(anova__percentile=percentile)
    this_scores = cross_val_score(clf, X, y)
    score_means.append(this_scores.mean())
    score_stds.append(this_scores.std())

plt.errorbar(percentiles, score_means, np.array(score_stds))
plt.title("Performance of the SVM-Anova varying the percentile of features selected")
plt.xticks(np.linspace(0, 100, 11, endpoint=True))
plt.xlabel("Percentile")
plt.ylabel("Accuracy Score")
plt.axis("tight")
plt.show()

Performance of the SVM-Anova varying the percentile of features selected

Общее время выполнения скрипта: (0 минут 0,397 секунд)

Связанные примеры

Однофакторный отбор признаков

Объединение нескольких методов извлечения признаков

Построение графиков различных классификаторов SVM в наборе данных iris

SVM с пользовательским ядром

© 2007–2025 The scikit-learn developers
Licensed under the 3-clause BSD License.
https://scikit-learn.org/1.6/auto_examples/svm/plot_svm_anova.html