Video2Game: Ambiente em Tempo Real, Interativo, Realista e Compatível com Navegadores a partir de um Único Vídeo

Video2Game: Real-time, Interactive, Realistic and Browser-Compatible Environment from a Single Video

April 15, 2024

Autores: Hongchi Xia, Zhi-Hao Lin, Wei-Chiu Ma, Shenlong Wang

cs.AI

Resumo

A criação de ambientes virtuais de alta qualidade e interativos, como jogos e simuladores, frequentemente envolve processos manuais de modelagem complexos e custosos. Neste artigo, apresentamos o Video2Game, uma abordagem inovadora que converte automaticamente vídeos de cenas do mundo real em ambientes de jogos realistas e interativos. No cerne do nosso sistema estão três componentes principais: (i) um módulo de campos de radiação neural (NeRF) que captura eficazmente a geometria e a aparência visual da cena; (ii) um módulo de malha que destila o conhecimento do NeRF para renderização mais rápida; e (iii) um módulo de física que modela as interações e a dinâmica física entre os objetos. Seguindo o pipeline cuidadosamente projetado, é possível construir uma réplica digital interativa e acionável do mundo real. Avaliamos nosso sistema em cenas internas e externas de grande escala. Demonstramos que não apenas podemos produzir renderizações altamente realistas em tempo real, mas também construir jogos interativos sobre elas.

English

Creating high-quality and interactive virtual environments, such as games and simulators, often involves complex and costly manual modeling processes. In this paper, we present Video2Game, a novel approach that automatically converts videos of real-world scenes into realistic and interactive game environments. At the heart of our system are three core components:(i) a neural radiance fields (NeRF) module that effectively captures the geometry and visual appearance of the scene; (ii) a mesh module that distills the knowledge from NeRF for faster rendering; and (iii) a physics module that models the interactions and physical dynamics among the objects. By following the carefully designed pipeline, one can construct an interactable and actionable digital replica of the real world. We benchmark our system on both indoor and large-scale outdoor scenes. We show that we can not only produce highly-realistic renderings in real-time, but also build interactive games on top.