Трёхмерное зрение

Fundamental and Essential Matrix

Фундаментальная и существенная матрицы

актуальноТекущий рабочий стандарт

Направления: Прикладные направления · Трёхмерное зрение

кодирует эпиполярную геометрию в пикселях, существенная — в калиброванных лучах. Из второй извлекается взаимное положение камер.

— произведение кососимметричной сдвига на поворот

Ключевые тезисы

  • F имеет ранг 2 и семь степеней свободы; находит её линейно.
  • E = KᵀFK связывает калиброванные камеры и раскладывается на поворот и направление сдвига.
  • Разложение E даёт четыре решения; правильное выбирают по тому, что точки должны быть перед обеими камерами.

Подробный разбор

3 подтемы — объяснения, формулы, примеры и интерактивные графики.

Пусть камеры и лучи заданы в их собственных системах. от первого центра к точке, вектор от второго центра к той же точке и вектор между центрами лежат в одной плоскости. Компланарность записывается смешанным произведением, равным нулю, — и после переноса в единую систему координат превращается в матричное условие.

Обозначения
  • объект: вектор признаков
  • транспонирование: строка вместо столбца

Переход к пикселям добавляет , и превращается в фундаментальную.

Обозначения
  • объект: вектор признаков
  • транспонирование: строка вместо столбца
Существенная EФундаментальная F
работает скалиброванными лучамипикселями
степеней свободы57
сингулярные числадва равных и нольпроизвольные, третье ноль
даёт позу камерыданет, без K

Каждое соответствие даёт одно линейное уравнение относительно девяти элементов . Восьми пар хватает, чтобы найти решение с точностью до масштаба: собираем , берём правый сингулярный с наименьшим сингулярным числом.

  1. Нормализовать координаты: сдвинуть центр в среднее, отмасштабировать так, чтобы среднее расстояние было √2.
  2. Собрать систему по всем парам и решить через SVD.
  3. Наложить ограничение ранга: обнулить наименьшее сингулярное число .
  4. Вернуться к исходным координатам обратной .

Шаг выглядит косметическим, но без него алгоритм бесполезен. Координаты пикселей — это сотни и тысячи, их произведения — миллионы, а единицы в последнем столбце остаются единицами. Число обусловленности достигает , и решение тонет в ошибках округления.

На практике

На практике всегда заворачивают в RANSAC: соответствия содержат , а метод наименьших квадратов к ним беспощадно чувствителен. Случайные восьмёрки, подсчёт согласных пар, лучший вариант — и финальное уточнение по всем согласным.

Разложение через SVD даёт четыре комбинации поворота и направления сдвига: два возможных поворота и два знака сдвига. Все четыре одинаково хорошо удовлетворяют алгебраическому уравнению.

Отсеивает лишнее физика: точка должна находиться перед обеими камерами. Триангулируйте одну надёжную пару для каждого из четырёх вариантов и оставьте тот, где глубина положительна в обеих системах координат.

На практике

Длина не восстанавливается: определена с точностью до масштаба, поэтому известно только направление движения. Отсюда та самая неопределённость масштаба всей монокулярной реконструкции.

Видеолекции

Записи университетских курсов, где эта тема звучит. Ссылка открывает запись с той секунды, где о ней говорят, — искать по трёхчасовой лекции не нужно.

Связанные темы

Многовидовая реконструкция

Local Features and Matching90%

Локальные признаки и соответствия · Трёхмерное зрение

Чтобы связать два снимка, нужно найти на них одни и те же точки. Детектор находит выделяющиеся места, дескриптор описывает окрестность так, чтобы описание пережило поворот и смену масштаба.

Epipolar Geometry90%

Эпиполярная геометрия · Трёхмерное зрение

Точка на одном снимке задаёт на другом не точку, а прямую. Это сужает поиск соответствий с плоскости до линии и позволяет отбраковать ложные пары.

Triangulation90%

Триангуляция · Трёхмерное зрение

Зная положение двух камер и пару соответствующих пикселей, восстанавливаем точку сцены: два луча в пространстве должны пересечься.

Structure from Motion90%

Восстановление структуры по движению · Трёхмерное зрение

По набору неупорядоченных снимков одновременно находим положения камер и трёхмерные точки сцены. Классическая основа фотограмметрии и вход почти любого 3D-пайплайна.

Bundle Adjustment90%

Уточнение связки · Трёхмерное зрение

Совместная нелинейная оптимизация всех камер и всех точек по одному критерию — суммарной ошибке репроекции. Шаг, который превращает грубую реконструкцию в точную.

Pose and Keypoints90%

Ключевые точки и поза · Компьютерное зрение

Определение положения суставов человека или характерных точек объекта — база для спортивной аналитики, эргономики и контроля процессов.

Следующий шагДальше по связи: Local Features and MatchingЧтобы связать два снимка, нужно найти на них одни и те же точки. Детектор находит выделяющиеся места, дескриптор описывает окрестность так, чтобы описание пережило поворот и смену масштаба.Перейти →

Глава «Трёхмерное зрение» последний раз правилась . Нашли ошибку — напишите.