Метрики

Precision@K

Точность@K

актуальноТекущий рабочий стандарт

Доля релевантных объектов среди первых K позиций выдачи.

Ключевые тезисы

  • Отражает то, что пользователь реально видит на первом экране.
  • Не учитывает порядок внутри топ-K.
  • K выбирают по продуктовой логике: размер блока рекомендаций.

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

1

Метрика первого экрана

Пользователь видит только начало выдачи.

Пример

В блоке из 10 рекомендаций пользователю подошли 3 → Precision@10 = 0.3. Порядок внутри десятки эта метрика не различает — для этого есть NDCG.

2

Связь с продуктовыми метриками

Что реально значит Precision@K для сервиса.

Если блок рекомендаций показывает 5 карточек, а Precision@5 = 0.2, то в среднем пользователю подходит одна карточка из блока. Рост до 0.4 удваивает число полезных карточек — и это уже переводится в CTR.

На практике

Офлайн-метрики рекомендаций смещены: вы измеряете качество на том, что пользователи видели, а видели они выдачу старой модели. Финальный ответ даёт только A/B-тест.

Связанные темы

Поиск, эмбеддинги и RAG

Embeddings80%

Эмбеддинги · Обработка естественного языка

Плотные векторные представления объектов, где геометрическая близость означает смысловое сходство.

Semantic Search80%

Семантический поиск · Обработка естественного языка

Поиск по смыслу, а не по совпадению слов: запрос и документы сравниваются в пространстве эмбеддингов.

RAG80%

Retrieval-Augmented Generation · Обработка естественного языка

Языковая модель отвечает, опираясь на найденные во внешней базе фрагменты, а не только на память весов.

TF-IDF80%

TF-IDF · Обработка естественного языка

Взвешивает частоту слова в документе на его редкость в корпусе, подавляя общеупотребительные слова.

RAG80%

RAG · Генеративный ИИ

Подмешивание найденных документов в контекст модели вместо хранения знаний в весах.

LLM80%

Большие языковые модели · Генеративный ИИ

Трансформеры-декодеры, обученные на огромных корпусах предсказывать следующий токен.

Agents80%

Агенты · Генеративный ИИ

LLM, которая планирует, вызывает инструменты и итеративно движется к цели.

NDCG80%

NDCG · Метрики

Нормированный дисконтированный кумулятивный выигрыш: учитывает градации релевантности и позиции с логарифмическим дисконтом.

MRR80%

Средний обратный ранг · Метрики

Среднее значение 1/rank первого релевантного результата.

MAP80%

Средняя усреднённая точность · Метрики

Среднее по запросам от average precision — учитывает и релевантность, и позиции.

Recall@K80%

Полнота@K · Метрики

Какая доля всех релевантных объектов попала в топ-K.