WildGaussians: 3D-Gauß-Splatting in freier Wildbahn

WildGaussians: 3D Gaussian Splatting in the Wild

July 11, 2024

Autoren: Jonas Kulhanek, Songyou Peng, Zuzana Kukelova, Marc Pollefeys, Torsten Sattler

cs.AI

Zusammenfassung

Obwohl das Feld der 3D-Szenenrekonstruktion von NeRFs dominiert wird aufgrund ihrer fotorealistischen Qualität, ist kürzlich 3D-Gauß-Splatting (3DGS) aufgetaucht, das eine ähnliche Qualität mit Echtzeit-Renderinggeschwindigkeiten bietet. Beide Methoden zeichnen sich hauptsächlich in gut kontrollierten 3D-Szenen aus, während in-the-wild-Daten - gekennzeichnet durch Verdeckungen, dynamische Objekte und unterschiedliche Beleuchtung - eine Herausforderung darstellen. NeRFs können sich leicht an solche Bedingungen anpassen durch pro-Bild-Einbettungsvektoren, aber 3DGS hat Schwierigkeiten aufgrund seiner expliziten Darstellung und des Mangels an gemeinsamen Parametern. Um dies zu lösen, stellen wir WildGaussians vor, einen neuartigen Ansatz zur Bewältigung von Verdeckungen und Erscheinungsänderungen mit 3DGS. Durch die Nutzung robuster DINO-Merkmale und die Integration eines Erscheinungsmodellierungsmoduls innerhalb von 3DGS erzielt unsere Methode Spitzenresultate. Wir zeigen, dass WildGaussians die Echtzeit-Renderinggeschwindigkeit von 3DGS erreicht und sowohl 3DGS als auch NeRF-Baselines bei der Bewältigung von in-the-wild-Daten übertrifft, und das alles innerhalb eines einfachen architektonischen Rahmens.

English

While the field of 3D scene reconstruction is dominated by NeRFs due to their photorealistic quality, 3D Gaussian Splatting (3DGS) has recently emerged, offering similar quality with real-time rendering speeds. However, both methods primarily excel with well-controlled 3D scenes, while in-the-wild data - characterized by occlusions, dynamic objects, and varying illumination - remains challenging. NeRFs can adapt to such conditions easily through per-image embedding vectors, but 3DGS struggles due to its explicit representation and lack of shared parameters. To address this, we introduce WildGaussians, a novel approach to handle occlusions and appearance changes with 3DGS. By leveraging robust DINO features and integrating an appearance modeling module within 3DGS, our method achieves state-of-the-art results. We demonstrate that WildGaussians matches the real-time rendering speed of 3DGS while surpassing both 3DGS and NeRF baselines in handling in-the-wild data, all within a simple architectural framework.