Video2Game : Environnement en temps réel, interactif, réaliste et compatible navigateur à partir d'une seule vidéo

Video2Game: Real-time, Interactive, Realistic and Browser-Compatible Environment from a Single Video

April 15, 2024

Auteurs: Hongchi Xia, Zhi-Hao Lin, Wei-Chiu Ma, Shenlong Wang

cs.AI

Résumé

La création d'environnements virtuels de haute qualité et interactifs, tels que des jeux et des simulateurs, implique souvent des processus de modélisation manuelle complexes et coûteux. Dans cet article, nous présentons Video2Game, une approche novatrice qui convertit automatiquement des vidéos de scènes du monde réel en environnements de jeu réalistes et interactifs. Au cœur de notre système se trouvent trois composants principaux : (i) un module de champs de rayonnement neuronaux (NeRF) qui capture efficacement la géométrie et l'apparence visuelle de la scène ; (ii) un module de maillage qui distille les connaissances du NeRF pour un rendu plus rapide ; et (iii) un module de physique qui modélise les interactions et la dynamique physique entre les objets. En suivant le pipeline soigneusement conçu, il est possible de construire une réplique numérique interactive et actionnable du monde réel. Nous évaluons notre système sur des scènes intérieures et extérieures à grande échelle. Nous montrons que nous pouvons non seulement produire des rendus hautement réalistes en temps réel, mais aussi créer des jeux interactifs par-dessus.

English

Creating high-quality and interactive virtual environments, such as games and simulators, often involves complex and costly manual modeling processes. In this paper, we present Video2Game, a novel approach that automatically converts videos of real-world scenes into realistic and interactive game environments. At the heart of our system are three core components:(i) a neural radiance fields (NeRF) module that effectively captures the geometry and visual appearance of the scene; (ii) a mesh module that distills the knowledge from NeRF for faster rendering; and (iii) a physics module that models the interactions and physical dynamics among the objects. By following the carefully designed pipeline, one can construct an interactable and actionable digital replica of the real world. We benchmark our system on both indoor and large-scale outdoor scenes. We show that we can not only produce highly-realistic renderings in real-time, but also build interactive games on top.