Дикие гауссианы: трехмерное гауссово сглаживание в дикой природе

WildGaussians: 3D Gaussian Splatting in the Wild

July 11, 2024

Авторы: Jonas Kulhanek, Songyou Peng, Zuzana Kukelova, Marc Pollefeys, Torsten Sattler

cs.AI

Аннотация

Хотя область восстановления трехмерных сцен в основном контролируется моделями NeRF из-за их фотореалистичного качества, недавно появился метод трехмерного гауссова сплетения (3DGS), предлагающий схожее качество с возможностью реального времени рендеринга. Однако оба метода преимущественно проявляют себя в хорошо контролируемых трехмерных сценах, в то время как данные "на воле" - характеризующиеся заслонениями, динамическими объектами и изменяющимся освещением - остаются вызовом. NeRF легко адаптируется к таким условиям благодаря векторам внедрения на изображение, в то время как 3DGS испытывает затруднения из-за явного представления и отсутствия общих параметров. Для решения этой проблемы мы представляем WildGaussians, новый подход к обработке заслонений и изменений внешнего вида с помощью 3DGS. Используя надежные функции DINO и интегрируя модуль моделирования внешнего вида в 3DGS, наш метод достигает передовых результатов. Мы демонстрируем, что WildGaussians соответствует скорости реального времени рендеринга 3DGS, превосходя как 3DGS, так и базовые модели NeRF в обработке данных "на воле", все это в рамках простой архитектурной структуры.

English

While the field of 3D scene reconstruction is dominated by NeRFs due to their photorealistic quality, 3D Gaussian Splatting (3DGS) has recently emerged, offering similar quality with real-time rendering speeds. However, both methods primarily excel with well-controlled 3D scenes, while in-the-wild data - characterized by occlusions, dynamic objects, and varying illumination - remains challenging. NeRFs can adapt to such conditions easily through per-image embedding vectors, but 3DGS struggles due to its explicit representation and lack of shared parameters. To address this, we introduce WildGaussians, a novel approach to handle occlusions and appearance changes with 3DGS. By leveraging robust DINO features and integrating an appearance modeling module within 3DGS, our method achieves state-of-the-art results. We demonstrate that WildGaussians matches the real-time rendering speed of 3DGS while surpassing both 3DGS and NeRF baselines in handling in-the-wild data, all within a simple architectural framework.