Американские исследователи представили прототип системы, способной создавать динамическую трехмерную модель из записи реального футбольного матча и отображать эту модель в очках дополненной реальности. Правда, система пока отображает только игроков и не показывает мяч. Алгоритм был натренирован на записях из игры FIFA, а его работа проверена на роликах с YouTube, рассказывают авторы в статье, которая будет представлена на конференции CVPR 2018.

Для развивающейся технологии дополненной реальности предлагают множество применений. Например, с ее помощью можно создавать полностью виртуальные объекты, размещенные в реальном мире, а можно отображать модель реального человека и проводить с ним реалистичную видеоконференцию. Кроме того, подобным образом предлагается транслировать события, в том числе и спортивные мероприятия. Одна из главных проблем, стоящих перед этой технологией, заключается в сложности создания объемной модели множества двигающихся объектов, но некоторые разработки в этой области уже есть. К примеру, у Intel есть система, позволяющая в реальном времени создавать модель всех объектов на спортивном мероприятии, но она использует несколько десятков дорогих камер с разрешением 5K, которые необходимо предварительно расставить по стадиону.

Konstantinos Rematas / YouTube

Исследователи под руководством Стива Зайца (Steve Seitz) из Вашингтонского университета и Google разработали свою систему, преобразующую записи реальных футбольных матчей в модель, которую можно отображать на столе или другой поверхности через очки дополненной реальности. В основе системы лежит алгоритм, способный создавать карту глубины из одного кадра. Исследователи самостоятельно собрали датасет для обучения алгоритма с помощью футбольного симулятора FIFA. Они перехватывали обращение движка игры к видеокарте и за счет этого получали кадры игры с данными о цвете и глубине, а затем разделяли их на изображения отдельных игроков. В результате авторы получили 12 тысяч пар типа изображение-глубина для тренировки алгоритма.

Разработчики выбрали сверточную нейросеть в качестве алгоритма для создания динамической объемной модели из двумерной видеозаписи футбольного матча. Для каждого кадра алгоритм сначала вычисляет направление камеры, снимающей матч, затем выделяет игроков, создает простую модель их скелета и определяет направление их движения. После этого нейросеть создает для каждого игрока карту глубины, которую затем можно использовать для рендеринга. Разработчики продемонстрировали это на примере приложения для шлема дополненной реальности Microsoft Hololens, который отображает модель футбольного поля с игроками на столе или другой ровной поверхности.

Создание объемной модели из видеозаписи матча. Konstantinos Rematas et al. / CVPR 2018

Один из главных недостатков алгоритма заключается в том, что пока он работает только с изображениями игроков, но не отслеживает мяч. Кроме того, пока он довольно требователен к ресурсам — на обработку одного кадра с разрешением 4K у исследователей уходило 15 секунд.

Автор: Григорий Копиев