Vector — Вектор

Упорядоченный набор чисел; в ML — представление объекта в пространстве признаков.

Ключевые тезисы

Операции: сложение, умножение на скаляр, скалярное произведение.
Направление кодирует смысл, длина — интенсивность.
Эмбеддинг — это вектор, обученный моделью.

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

Операции и их смысл

Что можно делать с векторами и зачем это в ML.

Сложение — композиция признаков или сдвиг в пространстве.
Умножение на скаляр — изменение «интенсивности» без смены направления.
Скалярное произведение — мера согласованности двух векторов.
Норма — длина, то есть общая величина сигнала.

cos θ = \frac{⟨ a , b ⟩}{∥ a ∥ ∥ b ∥} \in [- 1, 1]

Обозначения

$θ$ параметры модели
$∥ \cdot ∥$ норма — длина вектора
$⟨ a, b ⟩$ скалярное произведение: мера согласованности векторов

Косинусная близость — стандартная мера похожести эмбеддингов

Где встречается в ML

Три роли одного объекта.

Объект: строка данных в пространстве признаков.
Параметры: вектор весов модели.
Градиент: направление изменения этих весов.

На практике

Полезная привычка — всегда проговаривать размерности: $x \in R^{d}$ , $w \in R^{d}$ , $X \in R^{n \times d}$ . Большинство ошибок в коде находится именно так.

Связанные темы

Линейная алгебра в ML

Linear Algebra70%

Линейная алгебра · Основы

Векторы и матрицы — способ описать данные и преобразования над ними. Обучение модели почти всегда сводится к последовательности матричных операций.

Matrix70%

Матрица · Математический справочник

Прямоугольная таблица чисел, задающая линейное преобразование или набор объектов.

Norm70%

Норма · Математический справочник

Мера длины вектора; выбор нормы определяет геометрию задачи.

Distance70%

Расстояние · Математический справочник

Мера непохожести объектов — основа кластеризации, k-NN и поиска.

Eigenvalue70%

Собственное значение · Математический справочник

Коэффициент растяжения вдоль направления, которое преобразование не поворачивает.

Eigenvector70%

Собственный вектор · Математический справочник

Направление, сохраняющееся при линейном преобразовании с точностью до масштаба.

PCA70%

Метод главных компонент · Классическое машинное обучение

Ортогональная проекция на направления максимальной дисперсии — линейное сжатие с минимальной потерей информации.

Metric spaces70%

Метрические пространства · Топологический анализ данных

Множество с функцией расстояния. Любой TDA-пайплайн начинается с выбора метрики.