Построение поверхности решений деревьев решений, обученных на наборе данных ирисов

Построение поверхности решений дерева решений, обученного на парах признаков набора данных ирисов.

См. дерево решений для получения дополнительной информации об оценщике.

Для каждой пары признаков ирисов дерево решений обучает границы решений, состоящие из комбинаций простых правил порогового сравнения, полученных из обучающих примеров.

Мы также покажем структуру дерева модели, построенной на всех признаках.

# Authors: The scikit-learn developers
# SPDX-License-Identifier: BSD-3-Clause

Сначала загрузите копию набора данных Ирисов, поставляемого с scikit-learn:

from sklearn.datasets import load_iris

iris = load_iris()

Отображение функций принятия решений деревьев, обученных на всех парах признаков.

import matplotlib.pyplot as plt
import numpy as np

from sklearn.datasets import load_iris
from sklearn.inspection import DecisionBoundaryDisplay
from sklearn.tree import DecisionTreeClassifier

# Parameters
n_classes = 3
plot_colors = "ryb"
plot_step = 0.02


for pairidx, pair in enumerate([[0, 1], [0, 2], [0, 3], [1, 2], [1, 3], [2, 3]]):
    # We only take the two corresponding features
    X = iris.data[:, pair]
    y = iris.target

    # Train
    clf = DecisionTreeClassifier().fit(X, y)

    # Plot the decision boundary
    ax = plt.subplot(2, 3, pairidx + 1)
    plt.tight_layout(h_pad=0.5, w_pad=0.5, pad=2.5)
    DecisionBoundaryDisplay.from_estimator(
        clf,
        X,
        cmap=plt.cm.RdYlBu,
        response_method="predict",
        ax=ax,
        xlabel=iris.feature_names[pair[0]],
        ylabel=iris.feature_names[pair[1]],
    )

    # Plot the training points
    for i, color in zip(range(n_classes), plot_colors):
        idx = np.where(y == i)
        plt.scatter(
            X[idx, 0],
            X[idx, 1],
            c=color,
            label=iris.target_names[i],
            edgecolor="black",
            s=15,
        )

plt.suptitle("Decision surface of decision trees trained on pairs of features")
plt.legend(loc="lower right", borderpad=0, handletextpad=0)
_ = plt.axis("tight")

Отображение структуры одного дерева решений, обученного на всех признаках вместе.

from sklearn.tree import plot_tree

plt.figure()
clf = DecisionTreeClassifier().fit(iris.data, iris.target)
plot_tree(clf, filled=True)
plt.title("Decision tree trained on all the iris features")
plt.show()

Общее время выполнения скрипта: (0 минут 0.837 секунд)

Download Jupyter notebook: plot_iris_dtc.ipynb

Download Python source code: plot_iris_dtc.py

Download zipped: plot_iris_dtc.zip

Связанные примеры

Главный компонентный анализ (PCA) на наборе данных Ирисов

График многоклассовой SGD на наборе данных ирисов

Построение поверхностей решений ансамблей деревьев на наборе данных ирисов

Инкрементный PCA