V3D: Videodiffusiemodellen zijn effectieve 3D-generatoren

V3D: Video Diffusion Models are Effective 3D Generators

March 11, 2024

Auteurs: Zilong Chen, Yikai Wang, Feng Wang, Zhengyi Wang, Huaping Liu

cs.AI

Samenvatting

Automatische 3D-generatie heeft recentelijk veel aandacht getrokken. Recente methoden hebben de generatiesnelheid aanzienlijk versneld, maar produceren meestal minder gedetailleerde objecten vanwege beperkte modelcapaciteit of 3D-data. Geïnspireerd door recente vooruitgang in videodiffusiemodellen, introduceren we V3D, dat gebruikmaakt van de wereldsimulatiecapaciteit van vooraf getrainde videodiffusiemodellen om 3D-generatie te vergemakkelijken. Om het volledige potentieel van videodiffusie voor het waarnemen van de 3D-wereld te benutten, introduceren we verder een geometrische consistentieprior en breiden we het videodiffusiemodel uit naar een multi-view consistent 3D-generator. Hierdoor kan het state-of-the-art videodiffusiemodel worden afgestemd om 360-graden orbitframes rond een object te genereren op basis van een enkele afbeelding. Met onze op maat gemaakte reconstructiepijplijnen kunnen we hoogwaardige meshes of 3D-Gaussians genereren binnen 3 minuten. Bovendien kan onze methode worden uitgebreid naar scene-level novel view synthesis, waarbij precieze controle over het camerapad wordt bereikt met spaarzame invoerweergaven. Uitgebreide experimenten tonen de superieure prestaties van de voorgestelde aanpak aan, vooral wat betreft generatiekwaliteit en multi-view consistentie. Onze code is beschikbaar op https://github.com/heheyas/V3D.

English

Automatic 3D generation has recently attracted widespread attention. Recent methods have greatly accelerated the generation speed, but usually produce less-detailed objects due to limited model capacity or 3D data. Motivated by recent advancements in video diffusion models, we introduce V3D, which leverages the world simulation capacity of pre-trained video diffusion models to facilitate 3D generation. To fully unleash the potential of video diffusion to perceive the 3D world, we further introduce geometrical consistency prior and extend the video diffusion model to a multi-view consistent 3D generator. Benefiting from this, the state-of-the-art video diffusion model could be fine-tuned to generate 360degree orbit frames surrounding an object given a single image. With our tailored reconstruction pipelines, we can generate high-quality meshes or 3D Gaussians within 3 minutes. Furthermore, our method can be extended to scene-level novel view synthesis, achieving precise control over the camera path with sparse input views. Extensive experiments demonstrate the superior performance of the proposed approach, especially in terms of generation quality and multi-view consistency. Our code is available at https://github.com/heheyas/V3D