RadSplat: Splatting Gaussiano Informato dal Campo di Radianza per il Rendering Robusto in Tempo Reale con Oltre 900 FPS

RadSplat: Radiance Field-Informed Gaussian Splatting for Robust Real-Time Rendering with 900+ FPS

March 20, 2024

Autori: Michael Niemeyer, Fabian Manhardt, Marie-Julie Rakotosaona, Michael Oechsle, Daniel Duckworth, Rama Gosula, Keisuke Tateno, John Bates, Dominik Kaeser, Federico Tombari

cs.AI

Abstract

I recenti progressi nella sintesi di viste e nel rendering in tempo reale hanno raggiunto una qualità fotorealistica con velocità di rendering impressionanti. Mentre i metodi basati su Radiance Fields ottengono una qualità all'avanguardia in scenari complessi come acquisizioni in ambienti naturali e scene su larga scala, spesso soffrono di requisiti computazionali eccessivamente elevati legati al rendering volumetrico. I metodi basati su Gaussian Splatting, d'altra parte, si affidano alla rasterizzazione e raggiungono naturalmente il rendering in tempo reale, ma presentano euristiche di ottimizzazione fragili che si rivelano inefficaci in scene più complesse. In questo lavoro, presentiamo RadSplat, un metodo leggero per il rendering robusto in tempo reale di scene complesse. I nostri principali contributi sono tre. Innanzitutto, utilizziamo i radiance fields come prior e segnale di supervisione per ottimizzare rappresentazioni di scene basate su punti, ottenendo una qualità migliorata e un'ottimizzazione più robusta. Successivamente, sviluppiamo una nuova tecnica di pruning che riduce il numero complessivo di punti mantenendo un'elevata qualità, portando a rappresentazioni di scene più piccole e compatte con velocità di inferenza più rapide. Infine, proponiamo un nuovo approccio di filtraggio al momento del test che accelera ulteriormente il rendering e consente di scalare a scene più grandi, delle dimensioni di una casa. Riteniamo che il nostro metodo consenta una sintesi all'avanguardia di acquisizioni complesse a oltre 900 FPS.

English

Recent advances in view synthesis and real-time rendering have achieved photorealistic quality at impressive rendering speeds. While Radiance Field-based methods achieve state-of-the-art quality in challenging scenarios such as in-the-wild captures and large-scale scenes, they often suffer from excessively high compute requirements linked to volumetric rendering. Gaussian Splatting-based methods, on the other hand, rely on rasterization and naturally achieve real-time rendering but suffer from brittle optimization heuristics that underperform on more challenging scenes. In this work, we present RadSplat, a lightweight method for robust real-time rendering of complex scenes. Our main contributions are threefold. First, we use radiance fields as a prior and supervision signal for optimizing point-based scene representations, leading to improved quality and more robust optimization. Next, we develop a novel pruning technique reducing the overall point count while maintaining high quality, leading to smaller and more compact scene representations with faster inference speeds. Finally, we propose a novel test-time filtering approach that further accelerates rendering and allows to scale to larger, house-sized scenes. We find that our method enables state-of-the-art synthesis of complex captures at 900+ FPS.