Примечание

Перейти в конец, чтобы скачать полный код примера или запустить этот пример в браузере с помощью JupyterLite или Binder.

Распространение меток для цифр: демонстрация производительности

В этом примере демонстрируются возможности полуобучения: модель Label Spreading обучается классифицировать рукописные цифры по наборам с очень небольшим количеством меток.

Набор данных рукописных цифр содержит всего 1797 точек. Модель будет обучаться на всех точках, но метки будут заданы только для 30 из них. Результаты в виде матрицы ошибок и набора метрик для каждого класса будут очень хорошими.

В конце будут показаны 10 наиболее неопределённых предсказаний.

# Authors: The scikit-learn developers
# SPDX-License-Identifier: BSD-3-Clause

Генерация данных

Мы используем набор данных digits. В работе задействована только случайно выбранная подвыборка.

import numpy as np

from sklearn import datasets

digits = datasets.load_digits()
rng = np.random.RandomState(2)
indices = np.arange(len(digits.data))
rng.shuffle(indices)

Мы выбрали 340 образцов, из которых только 40 будут иметь известные метки. Поэтому мы сохраняем индексы остальных 300 образцов, метки которых нам неизвестны.

X = digits.data[indices[:340]]
y = digits.target[indices[:340]]
images = digits.images[indices[:340]]

n_total_samples = len(y)
n_labeled_points = 40

indices = np.arange(n_total_samples)

unlabeled_set = indices[n_labeled_points:]

Перемешаем всё

y_train = np.copy(y)
y_train[unlabeled_set] = -1

Полуобучение

Мы обучаем LabelSpreading и используем её для предсказания неизвестных меток.

from sklearn.metrics import classification_report
from sklearn.semi_supervised import LabelSpreading

lp_model = LabelSpreading(gamma=0.25, max_iter=20)
lp_model.fit(X, y_train)
predicted_labels = lp_model.transduction_[unlabeled_set]
true_labels = y[unlabeled_set]

print(
    "Label Spreading model: %d labeled & %d unlabeled points (%d total)"
    % (n_labeled_points, n_total_samples - n_labeled_points, n_total_samples)
)

Label Spreading model: 40 labeled & 300 unlabeled points (340 total)

Отчёт о классификации

print(classification_report(true_labels, predicted_labels))

              precision    recall  f1-score   support

           0       1.00      1.00      1.00        27
           1       0.82      1.00      0.90        37
           2       1.00      0.86      0.92        28
           3       1.00      0.80      0.89        35
           4       0.92      1.00      0.96        24
           5       0.74      0.94      0.83        34
           6       0.89      0.96      0.92        25
           7       0.94      0.89      0.91        35
           8       1.00      0.68      0.81        31
           9       0.81      0.88      0.84        24

    accuracy                           0.90       300
   macro avg       0.91      0.90      0.90       300
weighted avg       0.91      0.90      0.90       300

Матрица ошибок

from sklearn.metrics import ConfusionMatrixDisplay

ConfusionMatrixDisplay.from_predictions(
    true_labels, predicted_labels, labels=lp_model.classes_
)

<sklearn.metrics._plot.confusion_matrix.ConfusionMatrixDisplay object at 0x78412829a8b0>

Визуализация наиболее неопределённых предсказаний

Здесь мы выберем и покажем 10 наиболее неопределённых предсказаний.

from scipy import stats

pred_entropies = stats.distributions.entropy(lp_model.label_distributions_.T)

Выберем 10 наиболее неопределённых меток

uncertainty_index = np.argsort(pred_entropies)[-10:]

Построим график

import matplotlib.pyplot as plt

f = plt.figure(figsize=(7, 5))
for index, image_index in enumerate(uncertainty_index):
    image = images[image_index]

    sub = f.add_subplot(2, 5, index + 1)
    sub.imshow(image, cmap=plt.cm.gray_r)
    plt.xticks([])
    plt.yticks([])
    sub.set_title(
        "predict: %i\ntrue: %i" % (lp_model.transduction_[image_index], y[image_index])
    )

f.suptitle("Learning with small amount of labeled data")
plt.show()

Learning with small amount of labeled data, predict: 1 true: 2, predict: 2 true: 2, predict: 8 true: 8, predict: 1 true: 8, predict: 1 true: 8, predict: 1 true: 8, predict: 3 true: 3, predict: 8 true: 8, predict: 2 true: 2, predict: 7 true: 2

Общее время выполнения скрипта: (0 минут 0.309 секунды)

Распространение меток для цифр: демонстрация производительности

Генерация данных

Полуобучение

Визуализация наиболее неопределённых предсказаний

Похожие примеры