Классическое машинное обучение

DBSCAN

DBSCAN

актуальноТекущий рабочий стандарт

Плотностная кластеризация: кластеры — это связные области высокой плотности, остальное объявляется шумом.

Ключевые тезисы

  • Параметры eps и min_samples задают, что считать плотной областью.
  • Находит кластеры произвольной формы и не требует задавать их число.
  • Плохо работает при сильно разной плотности кластеров — здесь помогает HDBSCAN.

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

1

Ядровые точки, границы и шум

Кластер как связная область высокой плотности.

  • Ядровая точка: в её -окрестности не меньше min_samples объектов.
  • Граничная: попадает в окрестность ядровой, но сама плотной окрестности не имеет.
  • Шум: не относится ни к одному кластеру — и это полноценный результат, а не ошибка.

Кластеры получаются произвольной формы: спирали, кольца, вытянутые полосы — всё, что k-means разрезал бы поперёк.

2

Подбор eps и min_samples

Два параметра, от которых зависит всё.

min_samples обычно берут около , где — размерность. Для eps строят график расстояний до -го соседа для всех точек, сортируют его и ищут «колено».

На практике

Главное ограничение DBSCAN — единая плотность для всего датасета. Если один кластер плотный, а другой разреженный, ни одно значение eps не подойдёт обоим; тогда берут HDBSCAN, который перебирает плотности иерархически.

ε0.12
β₀ (компоненты)1
β₁ (циклы)1
рёбер в комплексе22
Тот же принцип, что в TDA: меняя радиус ε, вы меняете, какие точки считаются связанными

Связанные темы

Плотностная кластеризация · Кластеризация и её оценка

HDBSCAN85%

HDBSCAN · Обучение без учителя

Иерархическая версия DBSCAN: перебирает плотности автоматически и находит кластеры разной плотности.

Spectral Clustering85%

Спектральная кластеризация · Обучение без учителя

Кластеризация через собственные векторы матрицы Лапласа графа сходства: находит невыпуклые и вложенные структуры.

Dimensionality Reduction85%

Снижение размерности · Обучение без учителя

Компактное представление данных, сохраняющее важную часть структуры.

Persistent Homology85%

Персистентные гомологии · Топологический анализ данных

Центральный метод TDA: вместо одного порога ε рассматривается вся фильтрация, и отслеживается, когда топологические особенности рождаются и умирают.

Eigenvector85%

Собственный вектор · Математический справочник

Направление, сохраняющееся при линейном преобразовании с точностью до масштаба.

k-Means75%

k-средних · Классическое машинное обучение

Разбивает объекты на k кластеров, минимизируя суммарное расстояние до центроидов.

GMM75%

Смесь гауссиан · Классическое машинное обучение

Вероятностная модель: данные порождаются смесью нормальных распределений, параметры оцениваются EM-алгоритмом.

Clustering75%

Кластеризация · Обучение без учителя

Разбиение объектов на группы похожих без заранее известных меток.

Density Estimation75%

Оценка плотности · Обучение без учителя

Восстановление распределения данных: где объекты встречаются часто, а где почти никогда.

Association Rules75%

Ассоциативные правила · Обучение без учителя

Поиск закономерностей вида «если A, то B» в транзакционных данных.

Silhouette Score75%

Силуэт · Метрики

Сравнивает среднее расстояние объекта до своего кластера и до ближайшего чужого.

Davies–Bouldin75%

Индекс Дэвиса — Болдина · Метрики

Отношение внутрикластерного разброса к расстоянию между кластерами; чем меньше, тем лучше.

Calinski–Harabasz75%

Индекс Калинского — Харабаша · Метрики

Отношение межкластерной дисперсии к внутрикластерной; чем больше, тем лучше разделение.

Mapper75%

Алгоритм Mapper · Топологический анализ данных

Строит граф-скелет данных: проекция фильтрующей функцией, покрытие интервалами, локальная кластеризация и склейка.