MiniBatchNMF

классsklearn.decomposition.MiniBatchNMF(n_components='auto', *, init=None, batch_size=1024, beta_loss='frobenius', tol=0.0001, max_no_improvement=10, max_iter=200, alpha_W=0.0, alpha_H='same', l1_ratio=0.0, forget_factor=0.7, fresh_restarts=False, fresh_restarts_max_iter=30, transform_max_iter=None, random_state=None, verbose=0)[source]

Минимальная неотрицательная матричная факторизация (NMF).

Добавлена в версии 1.1.

Найдите две неотрицательные матрицы, т.е. матрицы со всеми неотрицательными элементами, (W, H) чьё произведение приближает неотрицательную матрицу X. Эта факторизация может быть использована, например, для уменьшения размерности, разделения источников или извлечения тем.

Функция цели:

\[ \begin{align}\begin{aligned}L(W, H) &= 0.5 * ||X - WH||_{loss}^2\\ &+ alpha\_W * l1\_ratio * n\_features * ||vec(W)||_1\\ &+ alpha\_H * l1\_ratio * n\_samples * ||vec(H)||_1\\ &+ 0.5 * alpha\_W * (1 - l1\_ratio) * n\_features * ||W||_{Fro}^2\\ &+ 0.5 * alpha\_H * (1 - l1\_ratio) * n\_samples * ||H||_{Fro}^2,\end{aligned}\end{align} \]

где \(||A||_{Fro}^2 = \sum_{i,j} A_{ij}^2\) (норма Фробениуса) и \(||vec(A)||_1 = \sum_{i,j} abs(A_{ij})\) (элементная L1-норма).

Общая норма \(||X - WH||_{loss}^2\) может представлять собой норму Фробениуса или другую поддерживаемую функцию потерь бета-расхождения. Выбор между вариантами контролируется параметром beta_loss.

Функция цели минимизируется с помощью попеременной минимизации W и H.

Обратите внимание, что преобразованные данные называются W, а матрица компонент — H. В литературе по NMF обычно используется обратная система обозначений, так как матрица данных X транспонируется.

Подробнее см. в Руководстве пользователя.

Параметры:

n_componentsint или {‘auto’} или None, по умолчанию='auto'

Число компонент. Если None, сохраняются все функции. Если n_components='auto', число компонент автоматически определяется из форм W или H.

Изменено в версии 1.4: Добавлен 'auto'.

Изменено в версии 1.6: Значение по умолчанию изменено с None на 'auto'.

init{‘random’, ‘nndsvd’, ‘nndsvda’, ‘nndsvdar’, ‘custom’}, по умолчанию=None

Метод, используемый для инициализации процедуры. Допустимые варианты:

• None: ‘nndsvda’ если n_components <= min(n_samples, n_features), иначе случайный.
• 'random': неотрицательные случайные матрицы, масштабированные с помощью: sqrt(X.mean() / n_components)
• 'nndsvd': Инициализация неотрицательного двойного сингулярного разложения (NNDSVD) (лучше для разреженности).
• 'nndsvda': NNDSVD с нулями, заполненными средним значением X (лучше, когда разреженность не требуется).
• 'nndsvdar' NNDSVD с нулями, заполненными небольшими случайными значениями (обычно быстрее, менее точная альтернатива NNDSVDa для случаев, когда разреженность не требуется).
• 'custom': Использовать пользовательские матрицы W и H, которые должны быть предоставлены.

batch_sizeint, по умолчанию=1024

Число образцов в каждой мини-пачке. Большие размеры пачек обеспечивают лучшую долгосрочную сходимость за счет медленного старта.

beta_lossfloat или {‘frobenius’, ‘kullback-leibler’, ‘itakura-saito’}, по умолчанию=’frobenius’

Бета-расхождение, которое нужно минимизировать, измеряющее расстояние между X и точечным произведением WH. Обратите внимание, что значения, отличные от ‘frobenius’ (или 2) и ‘kullback-leibler’ (или 1), приводят к значительно более медленной сходимости. Обратите внимание, что для beta_loss <= 0 (или ‘itakura-saito’) матрица входных данных X не может содержать нули.

tolfloat, по умолчанию=1e-4

Управление ранней остановкой на основе нормы различий в H между 2 шагами. Для отключения ранней остановки на основе изменений в H, установите tol в 0.0.

max_no_improvementint, по умолчанию=10

Управление ранней остановкой на основе последовательного числа мини-пачек, которые не приводят к улучшению сглаженной функции стоимости. Чтобы отключить обнаружение сходимости на основе функции стоимости, установите max_no_improvement в None.

max_iterint, по умолчанию=200

Максимальное число итераций по всему набору данных перед истечением времени.

alpha_Wfloat, по умолчанию=0.0

Константа, которая умножает члены регуляризации W. Установите её в ноль (по умолчанию), чтобы не было регуляризации W.

alpha_Hfloat или “same”, по умолчанию=”same”

Константа, которая умножает члены регуляризации H. Установите её в ноль, чтобы не было регуляризации H. Если “same” (по умолчанию), принимает то же значение, что и alpha_W.

l1_ratiofloat, по умолчанию=0.0

Параметр смешивания регуляризации, с 0 <= l1_ratio <= 1. Для l1_ratio = 0 штраф представляет собой элементную L2-штраф (также норма Фробениуса). Для l1_ratio = 1 это элементный L1-штраф. Для 0 < l1_ratio < 1 штраф представляет собой комбинацию L1 и L2.

forget_factorfloat, по умолчанию=0.7

Степень перемасштабирования прошлых сведений. Его значение может быть 1 с конечными наборами данных. Рекомендуется использовать значения < 1 при онлайн-обучении, так как более новые пакеты будут иметь больший вес, чем прошлые пакеты.

fresh_restartsbool, по умолчанию=False

Следует ли полностью решать W на каждом шаге. Выполнение свежих перезапусков, вероятно, приведёт к лучшему решению за то же число итераций, но это намного медленнее.

fresh_restarts_max_iterint, по умолчанию=30

Максимальное число итераций при решении W на каждом шаге. Используется только при выполнении свежих перезапусков. Эти итерации могут быть остановлены раньше на основе малого изменения W, контролируемого tol.

transform_max_iterint, по умолчанию=None

Максимальное число итераций при решении W на этапе преобразования. Если None, по умолчанию max_iter.

random_stateint, экземпляр RandomState или None, по умолчанию=None

Используется для инициализации (когда init == ‘nndsvdar’ или ‘random’) и в методе координатного спуска. Передайте целое число для воспроизводимых результатов при нескольких вызовах функции. См. Словарь.

verbosebool, по умолчанию=False

Выводить ли подробную информацию.

Атрибуты:

components_массив формы (n_components, n_features)

Матрица факторизации, иногда называемая «словарём».

n_components_int

Число компонент. Оно равно параметру n_components если он был задан. В противном случае он будет равен количеству признаков.

reconstruction_err_float

Норма Фробениуса разницы матриц или бета-расхождения между обучающими данными X и реконструированными данными WH из обученной модели.

n_iter_int

Фактическое количество начатых итераций по всему набору данных.

n_steps_int

Количество обработанных мини-пачек.

n_features_in_int

Количество признаков, увиденных во время fit.

feature_names_in_массив формы (n_features_in_,)

Имена признаков, увиденных во время fit. Определены только тогда, когда X имеет имена признаков, которые все являются строками.

См. также

NMF

Неотрицательная матричная факторизация.

MiniBatchDictionaryLearning

Находит словарь, который лучше всего может быть использован для представления данных с использованием разреженного кода.

Ссылки

[1]

“Fast local algorithms for large scale nonnegative matrix and tensor factorizations” Cichocki, Andrzej, and P. H. A. N. Anh-Huy. IEICE transactions on fundamentals of electronics, communications and computer sciences 92.3: 708-721, 2009.

[2]

“Algorithms for nonnegative matrix factorization with the beta-divergence” Fevotte, C., & Idier, J. (2011). Neural Computation, 23(9).

[3]

“Online algorithms for nonnegative matrix factorization with the Itakura-Saito divergence” Lefevre, A., Bach, F., Fevotte, C. (2011). WASPA.

Примеры

>>> import numpy as np
>>> X = np.array([[1, 1], [2, 1], [3, 1.2], [4, 1], [5, 0.8], [6, 1]])
>>> from sklearn.decomposition import MiniBatchNMF
>>> model = MiniBatchNMF(n_components=2, init='random', random_state=0)
>>> W = model.fit_transform(X)
>>> H = model.components_

fit(X, y=None, **params)[source]

Обучение модели NMF для данных X.

Параметры:

X{array-like, sparse matrix} of shape (n_samples, n_features)

Вектор обучающих данных, где n_samples — количество примеров, а n_features — количество признаков.

yИгнорируется

Не используется, присутствует для согласованности API по соглашению.

**paramskwargs

Параметры (именованные аргументы) и значения, передаваемые экземпляру fit_transform.

Возвращаемое значение:

selfobject

Возвращает сам экземпляр.

fit_transform(X, y=None, W=None, H=None)[source]

Обучает модель NMF для данных X и возвращает преобразованные данные.

Это более эффективно, чем вызов fit, за которым следует transform.

Параметры:

X{array-like, sparse matrix} of shape (n_samples, n_features)

Матрица данных, подлежащая разложению.

yИгнорируется

Не используется, присутствует здесь для согласованности API по соглашению.

Warray-like of shape (n_samples, n_components), default=None

Если init='custom', используется в качестве начального приближения решения. Если None, используется метод инициализации, указанный в init.

Harray-like of shape (n_components, n_features), default=None

Если init='custom', используется в качестве начального приближения решения. Если None, используется метод инициализации, указанный в init.

Возвращаемое значение:

Wndarray of shape (n_samples, n_components)

Преобразованные данные.

get_feature_names_out(input_features=None)[source]

Получение имён выходных признаков для преобразования.

Имена выходных признаков будут иметь префикс с нижним регистром имени класса. Например, если трансформер выводит 3 признака, то имена выходных признаков: ["class_name0", "class_name1", "class_name2"].

Параметры:

input_featuresarray-like of str or None, default=None

Используется только для проверки имён признаков с именами, увиденными в fit.

Возвращаемое значение:

feature_names_outndarray of str objects

Имена преобразованных признаков.

get_metadata_routing()[source]

Получить маршрутизацию метаданных этого объекта.

Пожалуйста, обратитесь к Руководству пользователя по работе механизма маршрутизации.

Возвращаемое значение:

routingMetadataRequest

MetadataRequest encapsulating routing information.

get_params(deep=True)[source]

Получить параметры этого оценщика.

Параметры:

deepbool, default=True

Если True, вернёт параметры этого оценщика и вложенных под-объектов, которые являются оценщиками.

Возвращаемое значение:

paramsdict

Имена параметров, сопоставленные со значениями.

inverse_transform(X=None, *, Xt=None)[source]

Преобразование данных обратно в исходное пространство.

Добавлен в версии 0.18.

Параметры:

X{ndarray, sparse matrix} of shape (n_samples, n_components)

Преобразованная матрица данных.

Xt{ndarray, sparse matrix} of shape (n_samples, n_components)

Преобразованная матрица данных.

Устарело начиная с версии 1.5: Xt устарело начиная с 1.5 и будет удалено в 1.7. Используйте X вместо этого.

Возвращаемое значение:

Xndarray of shape (n_samples, n_features)

Возвращает матрицу данных исходной формы.

partial_fit(X, y=None, W=None, H=None)[source]

Обновление модели с использованием данных в X в качестве мини-пакета.

Ожидается, что этот метод будет вызываться несколько раз подряд на разных фрагментах набора данных для реализации обучения вне памяти или онлайн-обучения.

Это особенно полезно, когда весь набор данных слишком большой, чтобы поместиться в оперативной памяти сразу (см. Стратегии масштабирования с вычислительной точки зрения: большие данные).

Параметры:

X{array-like, sparse matrix} of shape (n_samples, n_features)

Матрица данных, подлежащая разложению.

yИгнорируется

Не используется, присутствует здесь для соответствия API по соглашению.

Warray-like of shape (n_samples, n_components), default=None

Если init='custom', используется в качестве начального приближения решения. Используется только для первого вызова partial_fit.

Harray-like of shape (n_components, n_features), default=None

Если init='custom', используется в качестве начального приближения решения. Используется только для первого вызова partial_fit.

Возвращаемое значение:

self

Возвращает сам экземпляр.

set_output(*, transform=None)[source]

Установить контейнер вывода.

См. Введение в API set_output для примера использования API.

Параметры:

transform{“default”, “pandas”, “polars”}, default=None

Настройка вывода transform и fit_transform.

• "default": Формат вывода по умолчанию трансформера
• "pandas": Вывод в виде DataFrame
• "polars": Вывод в формате Polars
• None: Настройка преобразования не изменяется

Добавлен в версии 1.4: "polars" вариант был добавлен.

Возвращаемое значение:

selfэкземпляр оценщика

Экземпляр оценщика.

set_params(**params)[source]

Установить параметры этого оценщика.

Метод работает как с простыми оценщиками, так и с вложенными объектами (такими как Pipeline). Последние имеют параметры вида <component>__<parameter>, чтобы было возможно обновить каждый компонент вложенного объекта.

Параметры:

**paramsdict

Параметры оценщика.

Возвращаемое значение:

selfэкземпляр оценщика

Экземпляр оценщика.

transform(X)[source]

Преобразование данных X согласно обученной модели MiniBatchNMF.

Параметры:

X{array-like, sparse matrix} of shape (n_samples, n_features)

Матрица данных, подлежащая преобразованию моделью.

Возвращаемое значение:

Wndarray of shape (n_samples, n_components)

Преобразованные данные.