RadSplat : Projection Gaussienne Informée par les Champs de Radiance pour un Rendu Robuste en Temps Réel à plus de 900 IPS

RadSplat: Radiance Field-Informed Gaussian Splatting for Robust Real-Time Rendering with 900+ FPS

March 20, 2024

Auteurs: Michael Niemeyer, Fabian Manhardt, Marie-Julie Rakotosaona, Michael Oechsle, Daniel Duckworth, Rama Gosula, Keisuke Tateno, John Bates, Dominik Kaeser, Federico Tombari

cs.AI

Résumé

Les récents progrès en synthèse de vues et rendu en temps réel ont permis d'atteindre une qualité photoréaliste à des vitesses de rendu impressionnantes. Alors que les méthodes basées sur les champs de radiance atteignent une qualité de pointe dans des scénarios complexes comme les captures en conditions réelles et les scènes à grande échelle, elles souffrent souvent de besoins de calcul excessivement élevés liés au rendu volumétrique. Les méthodes basées sur le splatting gaussien, quant à elles, reposent sur la rasterisation et atteignent naturellement un rendu en temps réel, mais souffrent d'heuristiques d'optimisation fragiles qui sous-performent sur des scènes plus complexes. Dans ce travail, nous présentons RadSplat, une méthode légère pour le rendu robuste en temps réel de scènes complexes. Nos principales contributions sont triples. Premièrement, nous utilisons les champs de radiance comme a priori et signal de supervision pour optimiser les représentations de scènes basées sur des points, conduisant à une qualité améliorée et une optimisation plus robuste. Ensuite, nous développons une nouvelle technique d'élagage réduisant le nombre total de points tout en maintenant une haute qualité, aboutissant à des représentations de scènes plus petites et plus compactes avec des vitesses d'inférence plus rapides. Enfin, nous proposons une nouvelle approche de filtrage au moment du test qui accélère encore le rendu et permet de s'adapter à des scènes plus grandes, de la taille d'une maison. Nous constatons que notre méthode permet une synthèse de pointe de captures complexes à plus de 900 FPS.

English

Recent advances in view synthesis and real-time rendering have achieved photorealistic quality at impressive rendering speeds. While Radiance Field-based methods achieve state-of-the-art quality in challenging scenarios such as in-the-wild captures and large-scale scenes, they often suffer from excessively high compute requirements linked to volumetric rendering. Gaussian Splatting-based methods, on the other hand, rely on rasterization and naturally achieve real-time rendering but suffer from brittle optimization heuristics that underperform on more challenging scenes. In this work, we present RadSplat, a lightweight method for robust real-time rendering of complex scenes. Our main contributions are threefold. First, we use radiance fields as a prior and supervision signal for optimizing point-based scene representations, leading to improved quality and more robust optimization. Next, we develop a novel pruning technique reducing the overall point count while maintaining high quality, leading to smaller and more compact scene representations with faster inference speeds. Finally, we propose a novel test-time filtering approach that further accelerates rendering and allows to scale to larger, house-sized scenes. We find that our method enables state-of-the-art synthesis of complex captures at 900+ FPS.