Video2Game: Реальном времени, интерактивная, реалистичная и совместимая с браузером среда из одного видео.

Video2Game: Real-time, Interactive, Realistic and Browser-Compatible Environment from a Single Video

April 15, 2024

Авторы: Hongchi Xia, Zhi-Hao Lin, Wei-Chiu Ma, Shenlong Wang

cs.AI

Аннотация

Создание высококачественных и интерактивных виртуальных сред, таких как игры и симуляторы, часто включает в себя сложные и затратные процессы ручного моделирования. В данной статье мы представляем Video2Game, новый подход, который автоматически преобразует видео реальных сцен в реалистичные и интерактивные игровые среды. В центре нашей системы находятся три основных компонента: (i) модуль нейронных радиантных полей (NeRF), который эффективно захватывает геометрию и визуальное восприятие сцены; (ii) модуль сетки, который концентрирует знания из NeRF для более быстрой отрисовки; и (iii) физический модуль, который моделирует взаимодействия и физическую динамику между объектами. Следуя тщательно разработанному пайплайну, можно создать взаимодействующую и действенную цифровую копию реального мира. Мы проводим бенчмаркинг нашей системы как на внутренних, так и на масштабных внешних сценах. Мы показываем, что мы можем не только производить высокореалистичные отрисовки в реальном времени, но и создавать интерактивные игры поверх них.

English

Creating high-quality and interactive virtual environments, such as games and simulators, often involves complex and costly manual modeling processes. In this paper, we present Video2Game, a novel approach that automatically converts videos of real-world scenes into realistic and interactive game environments. At the heart of our system are three core components:(i) a neural radiance fields (NeRF) module that effectively captures the geometry and visual appearance of the scene; (ii) a mesh module that distills the knowledge from NeRF for faster rendering; and (iii) a physics module that models the interactions and physical dynamics among the objects. By following the carefully designed pipeline, one can construct an interactable and actionable digital replica of the real world. We benchmark our system on both indoor and large-scale outdoor scenes. We show that we can not only produce highly-realistic renderings in real-time, but also build interactive games on top.