WildGaussians: 3D Gaussiaans Splatten in de Natuurlijke Omgeving

WildGaussians: 3D Gaussian Splatting in the Wild

July 11, 2024

Auteurs: Jonas Kulhanek, Songyou Peng, Zuzana Kukelova, Marc Pollefeys, Torsten Sattler

cs.AI

Samenvatting

Hoewel het veld van 3D-scène-reconstructie wordt gedomineerd door NeRFs vanwege hun fotorealistische kwaliteit, is 3D Gaussian Splatting (3DGS) recentelijk opgekomen en biedt het vergelijkbare kwaliteit met real-time renderingsnelheden. Beide methoden blinken echter vooral uit bij goed gecontroleerde 3D-scènes, terwijl data uit de echte wereld – gekenmerkt door occlusies, dynamische objecten en variërende belichting – een uitdaging blijft. NeRFs kunnen zich eenvoudig aanpassen aan dergelijke omstandigheden door middel van per-afbeelding inbeddingsvectoren, maar 3DGS heeft hier moeite mee vanwege zijn expliciete representatie en het ontbreken van gedeelde parameters. Om dit aan te pakken, introduceren we WildGaussians, een nieuwe aanpak om occlusies en uiterlijkveranderingen te hanteren met 3DGS. Door robuuste DINO-features te benutten en een module voor uiterlijkmodellering te integreren binnen 3DGS, behaalt onze methode state-of-the-art resultaten. We tonen aan dat WildGaussians de real-time renderingsnelheid van 3DGS evenaart, terwijl het zowel 3DGS als NeRF-baselines overtreft in het omgaan met data uit de echte wereld, allemaal binnen een eenvoudig architecturaal kader.

English

While the field of 3D scene reconstruction is dominated by NeRFs due to their photorealistic quality, 3D Gaussian Splatting (3DGS) has recently emerged, offering similar quality with real-time rendering speeds. However, both methods primarily excel with well-controlled 3D scenes, while in-the-wild data - characterized by occlusions, dynamic objects, and varying illumination - remains challenging. NeRFs can adapt to such conditions easily through per-image embedding vectors, but 3DGS struggles due to its explicit representation and lack of shared parameters. To address this, we introduce WildGaussians, a novel approach to handle occlusions and appearance changes with 3DGS. By leveraging robust DINO features and integrating an appearance modeling module within 3DGS, our method achieves state-of-the-art results. We demonstrate that WildGaussians matches the real-time rendering speed of 3DGS while surpassing both 3DGS and NeRF baselines in handling in-the-wild data, all within a simple architectural framework.