RadSplat: Strahlungsfeldinformiertes Gaussches Splatting für robuste echtzeitfähige Darstellung mit mehr als 900 FPS.

RadSplat: Radiance Field-Informed Gaussian Splatting for Robust Real-Time Rendering with 900+ FPS

March 20, 2024

Autoren: Michael Niemeyer, Fabian Manhardt, Marie-Julie Rakotosaona, Michael Oechsle, Daniel Duckworth, Rama Gosula, Keisuke Tateno, John Bates, Dominik Kaeser, Federico Tombari

cs.AI

Zusammenfassung

In jüngster Zeit haben Fortschritte bei der Ansichtssynthese und der Echtzeit-Rendering beeindruckende fotorealistische Qualität bei beeindruckenden Rendering-Geschwindigkeiten erreicht. Während Methoden auf Basis von Strahlungsfeldern Spitzenqualität in anspruchsvollen Szenarien wie Wildaufnahmen und großflächigen Szenen erreichen, leiden sie oft unter übermäßig hohen Rechenanforderungen, die mit volumetrischem Rendering verbunden sind. Methoden auf Basis von Gauss'schem Splatting hingegen setzen auf Rasterisierung und erreichen natürlicherweise Echtzeit-Rendering, leiden jedoch unter spröden Optimierungshinweisen, die in anspruchsvolleren Szenen unterdurchschnittlich abschneiden. In dieser Arbeit präsentieren wir RadSplat, eine leichtgewichtige Methode für robustes Echtzeit-Rendering komplexer Szenen. Unsere Hauptbeiträge sind dreifach. Erstens verwenden wir Strahlungsfelder als Prior und Überwachungssignal zur Optimierung von punktbasierten Szenedarstellungen, was zu verbesserter Qualität und robusterer Optimierung führt. Als Nächstes entwickeln wir eine neuartige Beschneidungstechnik, die die Gesamtpunktzahl reduziert, während die hohe Qualität beibehalten wird, was zu kleineren und kompakteren Szenedarstellungen mit schnelleren Inferenzgeschwindigkeiten führt. Schließlich schlagen wir einen neuartigen Testzeitfilterungsansatz vor, der das Rendering weiter beschleunigt und die Skalierung auf größere, hausgroße Szenen ermöglicht. Wir stellen fest, dass unsere Methode eine Spitzen-Synthese komplexer Aufnahmen mit über 900 FPS ermöglicht.

English

Recent advances in view synthesis and real-time rendering have achieved photorealistic quality at impressive rendering speeds. While Radiance Field-based methods achieve state-of-the-art quality in challenging scenarios such as in-the-wild captures and large-scale scenes, they often suffer from excessively high compute requirements linked to volumetric rendering. Gaussian Splatting-based methods, on the other hand, rely on rasterization and naturally achieve real-time rendering but suffer from brittle optimization heuristics that underperform on more challenging scenes. In this work, we present RadSplat, a lightweight method for robust real-time rendering of complex scenes. Our main contributions are threefold. First, we use radiance fields as a prior and supervision signal for optimizing point-based scene representations, leading to improved quality and more robust optimization. Next, we develop a novel pruning technique reducing the overall point count while maintaining high quality, leading to smaller and more compact scene representations with faster inference speeds. Finally, we propose a novel test-time filtering approach that further accelerates rendering and allows to scale to larger, house-sized scenes. We find that our method enables state-of-the-art synthesis of complex captures at 900+ FPS.