MVGS: Multi-view-gereguleerde Gaussische splatting voor het synthetiseren van nieuwe weergaven

MVGS: Multi-view-regulated Gaussian Splatting for Novel View Synthesis

October 2, 2024

Auteurs: Xiaobiao Du, Yida Wang, Xin Yu

cs.AI

Samenvatting

Recente werken in volume rendering, zoals NeRF en 3D Gaussian Splatting (3DGS), bevorderen aanzienlijk de renderkwaliteit en efficiëntie met behulp van het geleerde impliciete neurale radiance-veld of 3D-Gaussianen. Door te renderen bovenop een expliciete representatie, leveren de standaard 3DGS en zijn varianten realtime efficiëntie door het optimaliseren van het parametrische model met single-view supervisie per iteratie tijdens de training, wat is overgenomen van NeRF. Als gevolg daarvan worden bepaalde weergaven overmatig aangepast, wat leidt tot onbevredigende verschijningen bij nieuw-weergave synthese en onnauwkeurige 3D-geometrieën. Om voornoemde problemen op te lossen, stellen we een nieuwe 3DGS-optimalisatiemethode voor met vier belangrijke nieuwe bijdragen: 1) We transformeren het conventionele single-view trainingsparadigma naar een multi-view trainingsstrategie. Met onze voorgestelde multi-view regulatie worden 3D-Gaussian attributen verder geoptimaliseerd zonder overfitting van bepaalde trainingsweergaven. Als algemene oplossing verbeteren we de algehele nauwkeurigheid in verschillende scenario's en verschillende Gaussian varianten. 2) Geïnspireerd door het voordeel van extra weergaven, stellen we verder een cross-intrinsieke begeleidingsschema voor, wat leidt tot een grof-naar-fijn trainingsprocedure met betrekking tot verschillende resoluties. 3) Gebaseerd op onze multi-view gereguleerde training, stellen we verder een cross-ray verdichtingsstrategie voor, waarbij meer Gaussian kernels worden verdicht in de ray-intersectiegebieden van een selectie van weergaven. 4) Door de verdichtingsstrategie verder te onderzoeken, hebben we vastgesteld dat het effect van verdichting moet worden versterkt wanneer bepaalde weergaven aanzienlijk verschillen. Als oplossing stellen we een nieuwe multi-view versterkte verdichtingsstrategie voor, waarbij 3D-Gaussianen worden aangemoedigd om naar een voldoende aantal te worden verdicht, resulterend in verbeterde reconstructienauwkeurigheid.

English

Recent works in volume rendering, e.g. NeRF and 3D Gaussian Splatting (3DGS), significantly advance the rendering quality and efficiency with the help of the learned implicit neural radiance field or 3D Gaussians. Rendering on top of an explicit representation, the vanilla 3DGS and its variants deliver real-time efficiency by optimizing the parametric model with single-view supervision per iteration during training which is adopted from NeRF. Consequently, certain views are overfitted, leading to unsatisfying appearance in novel-view synthesis and imprecise 3D geometries. To solve aforementioned problems, we propose a new 3DGS optimization method embodying four key novel contributions: 1) We transform the conventional single-view training paradigm into a multi-view training strategy. With our proposed multi-view regulation, 3D Gaussian attributes are further optimized without overfitting certain training views. As a general solution, we improve the overall accuracy in a variety of scenarios and different Gaussian variants. 2) Inspired by the benefit introduced by additional views, we further propose a cross-intrinsic guidance scheme, leading to a coarse-to-fine training procedure concerning different resolutions. 3) Built on top of our multi-view regulated training, we further propose a cross-ray densification strategy, densifying more Gaussian kernels in the ray-intersect regions from a selection of views. 4) By further investigating the densification strategy, we found that the effect of densification should be enhanced when certain views are distinct dramatically. As a solution, we propose a novel multi-view augmented densification strategy, where 3D Gaussians are encouraged to get densified to a sufficient number accordingly, resulting in improved reconstruction accuracy.