Video2Game: Entorno en tiempo real, interactivo, realista y compatible con navegadores a partir de un único vídeo

Video2Game: Real-time, Interactive, Realistic and Browser-Compatible Environment from a Single Video

April 15, 2024

Autores: Hongchi Xia, Zhi-Hao Lin, Wei-Chiu Ma, Shenlong Wang

cs.AI

Resumen

La creación de entornos virtuales de alta calidad e interactivos, como juegos y simuladores, a menudo implica procesos de modelado manual complejos y costosos. En este artículo, presentamos Video2Game, un enfoque novedoso que convierte automáticamente videos de escenas del mundo real en entornos de juego realistas e interactivos. En el núcleo de nuestro sistema se encuentran tres componentes principales: (i) un módulo de campos de radiancia neural (NeRF) que captura eficazmente la geometría y la apariencia visual de la escena; (ii) un módulo de malla que destila el conocimiento de NeRF para una renderización más rápida; y (iii) un módulo de física que modela las interacciones y la dinámica física entre los objetos. Siguiendo la pipeline cuidadosamente diseñada, es posible construir una réplica digital interactiva y accionable del mundo real. Evaluamos nuestro sistema tanto en escenas interiores como en exteriores a gran escala. Demostramos que no solo podemos producir renderizados altamente realistas en tiempo real, sino también construir juegos interactivos sobre ellos.

English

Creating high-quality and interactive virtual environments, such as games and simulators, often involves complex and costly manual modeling processes. In this paper, we present Video2Game, a novel approach that automatically converts videos of real-world scenes into realistic and interactive game environments. At the heart of our system are three core components:(i) a neural radiance fields (NeRF) module that effectively captures the geometry and visual appearance of the scene; (ii) a mesh module that distills the knowledge from NeRF for faster rendering; and (iii) a physics module that models the interactions and physical dynamics among the objects. By following the carefully designed pipeline, one can construct an interactable and actionable digital replica of the real world. We benchmark our system on both indoor and large-scale outdoor scenes. We show that we can not only produce highly-realistic renderings in real-time, but also build interactive games on top.