Факты в виде троек «субъект — предикат — объект». Структурированная память, которую всё чаще подключают к языковым моделям.
Ключевые тезисы
- Эмбеддинги троек (TransE, RotatE) позволяют искать недостающие факты.
- GraphRAG использует граф знаний как источник контекста и связей между документами.
- Главная стоимость — не алгоритмы, а построение и поддержание онтологии.
Подробный разбор
2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.
1Эмбеддинги троек
Как предсказывать недостающие факты.
- TransE прост, но не умеет моделировать отношения «один ко многим».
- RotatE представляет отношение поворотом в комплексном пространстве — покрывает симметрию и инверсию.
- Оценка: Hits@10 и MRR на отложенных тройках.
2GraphRAG
Граф знаний как контекст для языковой модели.
Обычный RAG ищет похожие фрагменты, но плохо отвечает на вопросы, требующие связывания фактов из разных документов. GraphRAG строит граф сущностей и связей, а затем подаёт в контекст не только текст, но и подграф вокруг найденных сущностей.
- Хорошо работает для вопросов «как связаны A и B» и для сводных ответов по коллекции.
- Стоимость построения графа высока: извлечение сущностей и связей по всему корпусу.
- Практичный компромисс — гибрид: обычный retrieval плюс граф только для ключевых сущностей.
Связанные темы
Машинное обучение на графах
Graph Basics85%
Основы графов · Графы и сетиВершины, рёбра, веса и направления. Матрица смежности и список рёбер — два способа хранить одно и то же.
Centrality85%
Центральности · Графы и сетиМеры важности вершины: по числу связей, по посредничеству, по близости и по влиянию соседей.
PageRank85%
PageRank · Графы и сетиСтационарное распределение случайного блуждания по графу с телепортацией. Классический алгоритм ранжирования, который до сих пор используется как признак.
Community Detection85%
Поиск сообществ · Графы и сетиРазбиение графа на плотно связанные группы: клиенты одного круга, связанные аккаунты, тематические кластеры документов.
Graph Embeddings85%
Графовые эмбеддинги · Графы и сетиВекторные представления вершин, в которых близость отражает связанность в графе.
Graph Neural Networks85%
Графовые нейросети · Графы и сетиНейросети, работающие прямо на структуре графа: представление вершины обновляется по представлениям соседей.
Message Passing85%
Передача сообщений · Графы и сетиЕдиная схема, к которой сводятся почти все архитектуры GNN: собрать сообщения от соседей, агрегировать, обновить состояние.
Link Prediction85%
Предсказание связей · Графы и сетиЗадача «появится ли ребро между вершинами»: рекомендации друзей и товаров, достройка графов знаний.
Network Motifs85%
Мотивы и триады · Графы и сетиМаленькие повторяющиеся подграфы, встречающиеся чаще, чем в случайной сети. Хорошие признаки для классификации вершин.
Clustering85%
Кластеризация · Обучение без учителяРазбиение объектов на группы похожих без заранее известных меток.
Eigenvector85%
Собственный вектор · Математический справочникНаправление, сохраняющееся при линейном преобразовании с точностью до масштаба.