Все эти термины относятся к машинному обучению без размеченных ответов (или часто используются в этом контексте), но они находятся на разных уровнях абстракции.
Unsupervised Learning (обучение без учителя) — это когда у нас есть данные, но нет правильных ответов (меток).
Например:
| Возраст | Доход |
|---|---|
| 25 | 1000 |
| 27 | 1200 |
| 60 | 5000 |
| 58 | 4500 |
Мы не знаем, кто хороший клиент, кто плохой, кто купит продукт.
Алгоритм должен сам найти структуру в данных.
Сюда входят:
- Кластеризация (Clustering)
- Ассоциативный анализ (Association Rules)
- Снижение размерности (Dimensionality Reduction)
- Поиск аномалий (Anomaly Detection)
То есть:
Unsupervised Learning
│
├── Clustering
├── Association Rules
├── Dimensionality Reduction
└── Anomaly Detection
Цель:
Найти группы похожих объектов.
Представим интернет-магазин.
Есть клиенты:
| Возраст | Доход |
|---|---|
| 20 | 1000 |
| 22 | 1200 |
| 25 | 1100 |
| 60 | 5000 |
| 58 | 4800 |
| 62 | 5300 |
Алгоритм может автоматически выделить:
Кластер 1:
- молодые
- небольшой доход
Кластер 2:
- пожилые
- высокий доход
Визуально:
*
* *
* *
*
Получаются группы.
Популярные алгоритмы:
- K-Means
- DBSCAN
- Hierarchical Clustering
Маркетинг:
- сегментация клиентов
Медицина:
- поиск групп пациентов
Биология:
- группировка генов
Поисковые системы:
- группировка похожих документов
Цель:
Найти закономерности совместного появления объектов.
Классический пример:
Покупки в супермаркете.
Корзины:
Хлеб, Молоко
Хлеб, Масло
Хлеб, Молоко, Масло
Пиво, Чипсы
Пиво, Рыба
Алгоритм может обнаружить правило:
Если покупают пиво
⇒ часто покупают чипсы
или
Если покупают хлеб и масло
⇒ часто покупают молоко
Это НЕ кластеризация.
Мы не группируем покупателей.
Мы ищем связи между объектами.
Популярные алгоритмы:
- Apriori
- FP-Growth
Рекомендательные системы:
"С этим товаром часто покупают..."
Банки:
поиск паттернов мошенничества
Медицина:
выявление сочетаний симптомов
Представим человека описывают:
- рост
- вес
- возраст
- давление
- сахар
- холестерин
- 1000 анализов крови
Получается:
1000 признаков
Работать тяжело:
- медленно
- шумно
- сложно визуализировать
Идея:
Преобразовать:
1000 признаков
↓
10 признаков
с сохранением большей части информации.
Представьте книгу на 1000 страниц.
Вы делаете конспект на 10 страниц.
Информация немного теряется, но главное остаётся.
Самый известный метод.
Представим точки лежат примерно вдоль линии:
*
*
*
*
*
Вместо хранения двух координат:
x,y
можно хранить только положение вдоль линии.
Размерность уменьшается:
2D → 1D
Перед обучением моделей:
10000 признаков
↓
100 признаков
Визуализация:
100 измерений
↓
2 измерения
для графика
Сжатие данных
Удаление шума
Популярные методы:
- PCA
- t-SNE
- UMAP
- Autoencoders
Представим у вас есть библиотека из 1 миллиона книг.
Вопрос:
Какие книги похожи друг на друга?
Результат:
Фантастика
История
Наука
Философия
Вопрос:
Какие книги часто берут вместе?
Результат:
Коран → Тафсир
Laravel → Vue.js
Python → Data Science
Вопрос:
Можно ли описать каждую книгу не 10 000 словами, а 50 числами?
Результат:
10000 признаков
↓
50 признаков
Очень часто pipeline выглядит так:
Данные
↓
Dimensionality Reduction
↓
Clustering
↓
Анализ кластеров
Например:
У вас есть 1 млн клиентов.
Каждый клиент описан 500 параметрами.
Сначала:
500 признаков
↓ PCA
20 признаков
Потом:
20 признаков
↓ K-Means
5 кластеров
Получаем:
- студенты
- молодые специалисты
- семьи
- пенсионеры
- VIP-клиенты
| Метод | Что ищет | Результат |
|---|---|---|
| Unsupervised Learning | Любую скрытую структуру без меток | Общий класс методов |
| Clustering | Похожие объекты | Группы (кластеры) |
| Association Rules | Совместные закономерности | Правила вида A → B |
| Dimensionality Reduction | Более компактное представление данных | Меньше признаков |
Главное запомнить: Clustering, Association Rules и Dimensionality Reduction — это не конкурирующие методы, а разные подзадачи внутри Unsupervised Learning. Они отвечают на разные вопросы о данных.
Да, внутри Unsupervised Learning есть гораздо больше направлений, чем обычно показывают в вводных курсах.
Можно представить это так:
Unsupervised Learning
│
├── Clustering
├── Association Rules
├── Dimensionality Reduction
├── Anomaly Detection
├── Density Estimation
├── Topic Modeling
├── Representation Learning
├── Matrix Factorization
├── Graph Learning
├── Self-Supervised Learning*
└── Generative Modeling
(* Self-Supervised Learning сейчас часто выделяют в отдельную категорию, хотя исторически он вырос из идей unsupervised learning.)
Вопрос:
Что здесь выглядит необычным?
Представим транзакции банка:
$50
$120
$75
$90
$65
$10000 ← странно
Алгоритм говорит:
Эта операция сильно отличается от остальных.
Используется:
- обнаружение мошенничества
- кибербезопасность
- мониторинг серверов
- медицина
Например, в вашем стартапе можно анализировать HTTP-запросы и находить подозрительное поведение пользователей.
Популярные методы:
- Isolation Forest
- Local Outlier Factor (LOF)
- One-Class SVM
Вопрос:
Как распределены данные?
Например:
Рост людей:
170
171
172
173
174
175
Алгоритм пытается построить функцию:
P(рост = x)
То есть вероятность встретить человека с данным ростом.
Используется:
- статистика
- генерация данных
- поиск аномалий
- байесовские модели
Методы:
- Kernel Density Estimation (KDE)
- Gaussian Mixture Models (GMM)
Представьте:
100 000 статей.
Никто не размечал их.
Алгоритм сам обнаруживает темы:
Тема 1:
врач
пациент
больница
диагноз
Тема 2:
сервер
код
база
API
Тема 3:
рынок
акции
инвестиции
Используется:
- анализ документов
- поиск знаний
- исследование больших архивов
Методы:
- LDA (Latent Dirichlet Allocation)
- NMF
Очень важна для рекомендаций.
Представим таблицу:
| Пользователь | Фильм A | Фильм B | Фильм C |
|---|---|---|---|
| Али | 5 | ? | 4 |
| Боб | ? | 5 | 4 |
| Джон | 2 | 1 | ? |
Алгоритм пытается понять скрытые факторы:
Например:
Любит боевики
Любит комедии
Любит драмы
Хотя эти факторы нигде явно не указаны.
Используется:
- Netflix
- YouTube
- Spotify
- Amazon
Методы:
- SVD
- NMF
- ALS
Это одна из самых важных современных областей.
Вопрос:
Как автоматически создать хорошие признаки?
Например, изображение:
1024 × 1024 пикселей
Это миллион чисел.
Модель преобразует их в:
вектор из 256 чисел
где содержится смысл изображения.
Например:
[лицо=0.95,
человек=0.99,
возраст≈30,
очки=0.88]
(условно)
Используется:
- поиск похожих изображений
- поиск похожих документов
- эмбеддинги LLM
Когда вы используете embeddings в RAG-системе, это именно representation learning.
Вопрос:
Как научиться создавать новые данные?
После обучения на миллионах изображений модель может создать новое изображение.
Примеры:
- ChatGPT
- DALL-E
- Stable Diffusion
- Gemini
Методы:
- VAE
- GAN
- Diffusion Models
- Transformers
Представим социальную сеть.
Али ── Боб
│
└── Джон
Вопросы:
- Кто с кем связан?
- Кто может стать другом?
- Какие сообщества существуют?
Используется:
- системы рекомендаций
- обнаружение мошеннических сетей
Методы:
- Graph Neural Networks (GNN)
- Node2Vec
- DeepWalk
Это один из двигателей современной ИИ-революции.
Идея:
Метки создаются автоматически из самих данных.
Например предложение:
The cat sat on the [MASK].
Модель должна угадать:
mat
Человек не размечал данные.
Данные сами создали задачу обучения.
Так обучались многие современные модели:
- BERT
- GPT
- CLIP
Сегодня самые важные направления примерно такие:
| Направление | Где используется |
|---|---|
| Clustering | Сегментация клиентов |
| Dimensionality Reduction | PCA, UMAP, визуализация |
| Anomaly Detection | Мошенничество, мониторинг |
| Representation Learning | Embeddings, RAG |
| Self-Supervised Learning | LLM, Vision Models |
| Generative Modeling | ChatGPT, генерация изображений |
| Graph Learning | Социальные сети, рекомендации |
| Matrix Factorization | Netflix, Spotify |
Интересно, что современные LLM и RAG-системы, с которыми вы работаете, в значительной степени опираются именно на representation learning (эмбеддинги) и self-supervised learning, а не на классическую кластеризацию. Кластеризация была одной из центральных тем машинного обучения 10–15 лет назад, а сегодня основное внимание сместилось на обучение представлений и генеративные модели.