Разметка последовательности: находим в тексте имена, организации, даты, суммы.
Ключевые тезисы
- Схема BIO кодирует границы сущностей на уровне .
- Метрики считаются по сущностям целиком, а не по .
- Гибрид правил и модели часто эффективнее чистого ML на узких доменах.
Какую задачу решает
Распознавание превращает неструктурированный текст в структурированные данные: из письма извлекаются имя, организация, дата, сумма, номер договора. Это мост между текстом и базой данных, и потому одна из самых востребованных прикладных задач.
Технически это разметка на уровне : каждому токену присваивается метка, обычно в схеме BIO — начало сущности, продолжение, вне сущности. Двусторонний контекст здесь критичен: понять, что «Вашингтон» — это город, а не фамилия, можно только по окружению.
Сущность «ООО Ромашка Плюс» состоит из трёх . Модель извлекла «Ромашка Плюс». По токенам это 2 из 3 верных — точность около 67%, звучит приемлемо. По сущностям это полный промах: в базу уйдёт неправильное название организации, и сопоставить его с реестром не удастся. Оценивать нужно строго по целым сущностям с точным совпадением границ — иначе метрика будет систематически завышена, а разочарование в проде гарантировано.
Подробный разбор
| Метка | |
|---|---|
| Иван | B-PER |
| Петров | I-PER |
| работает | O |
| в | O |
| Сбербанке | B-ORG |
Метрики считают по сущностям целиком: сущность засчитана только если совпали и границы, и тип. здесь бесполезна — класс O доминирует и даёт 95% почти бесплатно.
На узких доменах (номера договоров, артикулы, даты в специфичном формате) гибрид правил и модели обычно точнее чистого ML — регулярное выражение не ошибается там, где формат жёсткий.
- Согласованность разметки важнее объёма: определите правила («включать ли отчество в PER») и проверьте согласие аннотаторов.
- Постобработка: словари организаций, проверка форматов ИНН/КПП, склейка разорванных сущностей.
- Активное обучение: размечайте в первую примеры, на которых модель менее всего уверена.
- Метрики по типам: обычно PER распознаётся отлично, а ORG и LOC путаются между собой.
Где применяется
- Обработка документовИзвлечение полей из договоров, счетов, заявлений.
- Медицинские записиПрепараты, дозировки, диагнозы из свободного текста.
- АнонимизацияПоиск и удаление персональных данных перед передачей или обучением.
- упоминанийКто и что упоминается в новостях и соцсетях.
- Наполнение знанийСущности как узлы, извлечённые связи как рёбра.
Плюсы, минусы и альтернативы
Плюсы
- Даёт структуру там, где её не было, — прямой путь к автоматизации.
- энкодер достигает высокого качества на нескольких тысячах примеров.
- Результат проверяем: сущность либо извлечена верно, либо нет.
- Дешёвый по сравнению с генеративным извлечением.
Минусы
- Разметка дорога: размечать нужно каждый .
- Границы сущностей неоднозначны, из-за чего страдает согласованность разметки.
- Новые типы сущностей требуют новой разметки и .
- Вложенные и перекрывающиеся сущности схема BIO не выражает.
- Плохо переносится между доменами: модель с новостей провалится на медицинских записях.
Брать, если
- Нужно извлечь структурированные поля из потока текстов.
- Объём достаточен, чтобы автоматизация окупила разметку.
- Типы сущностей определены и стабильны.
Не брать, если
- Типов сущностей десятки и они постоянно меняются — проще извлекать большой моделью по схеме.
- Документов мало: ручная обработка дешевле.
Чем заменяют
Связанные темы
Прикладные задачи NLP
Text classification75%
Классификация текстов · Обработка естественного языкаОтнесение документа к одной или нескольким категориям: от спам-фильтра до маршрутизации тикетов.
Sentiment Analysis75%
Анализ тональности · Обработка естественного языкаОпределение эмоциональной окраски текста — от бинарной оценки до аспектной тональности.
BERT75%
BERT · Обработка естественного языкаДвунаправленный энкодер, предобученный на восстановлении замаскированных токенов.
Embeddings75%
Эмбеддинги · Обработка естественного языкаПлотные векторные представления объектов, где геометрическая близость означает смысловое сходство.
F175%
F1-мера · МетрикиГармоническое среднее точности и полноты — компромисс между ними одним числом.
Precision75%
Точность · МетрикиКакая доля объектов, предсказанных положительными, действительно положительна.
Recall75%
Полнота · МетрикиКакая доля реально положительных объектов найдена моделью.
Всё, что названо в описании, разобрано здесь же или в соседней теме — переходы под каждым определением.
Схема BIO
B — начало сущности, I — продолжение, O — вне. Позволяет выделять многословные сущности.
Разбор ниже: Схема BIO и метрикиГраницы сущностей
Основной источник ошибок: где заканчивается название организации, часто неочевидно и людям.
Разбор ниже: Практические приёмыОценка по сущностям
Метрика считается по целым сущностям, а не по : частично угаданная сущность — ошибка.
Разбор ниже: Практические приёмыПрофильная компетенция для роли: NLP-инженер.
Усиливает профиль: Инженер речи.
Спрашивают на собеседовании: Яндекс — NLP, Wildberries — Каталог, поиск и атрибуты, МТС — Речь и разговорный ИИ, Газпромбанк — Документы и языковые модели, HeadHunter — Тексты вакансий и резюме, Positive Technologies — Языковые модели в безопасности, 1С — Документы и распознавание, СКБ Контур — Документы и распознавание, Т1 — Документы и ассистенты, Росатом — Документооборот и NLP.
Тема встречается в тесте по направлениям — ошибки приведут обратно на эту страницу.
Глава «Обработка естественного языка» последний раз правилась . Нашли ошибку — напишите.