pandas.DataFrame.drop_duplicates

DataFrame.drop_duplicates(subset=None, keep='first', inplace=False, ignore_index=False)[source]

Возвращает DataFrame с удаленными дублирующимися строками.

Учитывание определённых столбцов является необязательным. Индексы, включая временные индексы, игнорируются.

Параметры

subset:имя столбца или последовательность имён, необязательно

Рассматриваются только определённые столбцы для определения дубликатов, по умолчанию используются все столбцы.

keep:{‘first’, ‘last’, False}, по умолчанию ‘first’

Определяет, какие дубликаты (если таковые имеются) сохранить. - first : Удалить дубликаты, кроме первой записи. - last : Удалить дубликаты, кроме последней записи. - False : Удалить все дубликаты.

inplace:bool, по умолчанию False

Изменить DataFrame вместо создания нового.

ignore_index:bool, по умолчанию False

Если True, результирующий индекс будет иметь метки 0, 1, ..., n - 1.

Введено в версии 1.0.0.

Возвращает

DataFrame или None

DataFrame с удалёнными дубликатами или None, если inplace=True.

См. также

DataFrame.value_counts

Подсчитать уникальные комбинации столбцов.

Примеры

Рассмотрим набор данных с оценками рамэна.

>>> df = pd.DataFrame({
...     'brand': ['Yum Yum', 'Yum Yum', 'Indomie', 'Indomie', 'Indomie'],
...     'style': ['cup', 'cup', 'cup', 'pack', 'pack'],
...     'rating': [4, 4, 3.5, 15, 5]
... })
>>> df
    brand style  rating
0  Yum Yum   cup     4.0
1  Yum Yum   cup     4.0
2  Indomie   cup     3.5
3  Indomie  pack    15.0
4  Indomie  pack     5.0

По умолчанию удаляются дублирующие строки, основанные на всех столбцах.

>>> df.drop_duplicates()
    brand style  rating
0  Yum Yum   cup     4.0
2  Indomie   cup     3.5
3  Indomie  pack    15.0
4  Indomie  pack     5.0

Чтобы удалить дубликаты по определённому столбцу(а), используйте subset.

>>> df.drop_duplicates(subset=['brand'])
    brand style  rating
0  Yum Yum   cup     4.0
2  Indomie   cup     3.5

Чтобы удалить дубликаты и сохранить последнюю запись, используйте keep.

>>> df.drop_duplicates(subset=['brand', 'style'], keep='last')
    brand style  rating
1  Yum Yum   cup     4.0
2  Indomie   cup     3.5
4  Indomie  pack     5.0