Факты в виде троек «субъект — предикат — объект». Структурированная память, которую всё чаще подключают к языковым моделям.
Ключевые тезисы
- троек (TransE, RotatE) позволяют искать недостающие факты.
- GraphRAG использует знаний как источник контекста и связей между документами.
- Главная стоимость — не алгоритмы, а построение и поддержание онтологии.
Подробный разбор
- TransE прост, но не умеет моделировать отношения «один ко многим».
- RotatE представляет отношение поворотом в комплексном пространстве — покрывает симметрию и инверсию.
- Оценка: Hits@10 и на отложенных тройках.
Обычный ищет похожие фрагменты, но плохо отвечает на вопросы, требующие связывания фактов из разных документов. GraphRAG строит сущностей и связей, а затем подаёт в контекст не только текст, но и подграф вокруг найденных сущностей.
- Хорошо работает для вопросов «как связаны A и B» и для сводных ответов по коллекции.
- Стоимость построения высока: извлечение сущностей и связей по всему корпусу.
- Практичный компромисс — гибрид: обычный retrieval плюс только для ключевых сущностей.
Связанные темы
Машинное обучение на графах
Graph Basics85%
Основы графов · Графы и сетиВершины, рёбра, веса и направления. Матрица смежности и список рёбер — два способа хранить одно и то же.
Centrality85%
Центральности · Графы и сетиМеры важности вершины: по числу связей, по посредничеству, по близости и по влиянию соседей.
PageRank85%
PageRank · Графы и сетиСтационарное распределение случайного блуждания по графу с телепортацией. Классический алгоритм ранжирования, который до сих пор используется как признак.
Community Detection85%
Поиск сообществ · Графы и сетиРазбиение графа на плотно связанные группы: клиенты одного круга, связанные аккаунты, тематические кластеры документов.
Graph Embeddings85%
Графовые эмбеддинги · Графы и сетиВекторные представления вершин, в которых близость отражает связанность в графе.
Graph Neural Networks85%
Графовые нейросети · Графы и сетиНейросети, работающие прямо на структуре графа: представление вершины обновляется по представлениям соседей.
Message Passing85%
Передача сообщений · Графы и сетиЕдиная схема, к которой сводятся почти все архитектуры GNN: собрать сообщения от соседей, агрегировать, обновить состояние.
Link Prediction85%
Предсказание связей · Графы и сетиЗадача «появится ли ребро между вершинами»: рекомендации друзей и товаров, достройка графов знаний.
Network Motifs85%
Мотивы и триады · Графы и сетиМаленькие повторяющиеся подграфы, встречающиеся чаще, чем в случайной сети. Хорошие признаки для классификации вершин.
Clustering85%
Кластеризация · Обучение без учителяРазбиение объектов на группы похожих без заранее известных меток.
Eigenvector85%
Собственный вектор · Математический справочникНаправление, сохраняющееся при линейном преобразовании с точностью до масштаба.
Глава «Графы и сети» последний раз правилась . Нашли ошибку — напишите.