V3D: Videodiffusionsmodelle sind effektive 3D-Generatoren.

V3D: Video Diffusion Models are Effective 3D Generators

March 11, 2024

Autoren: Zilong Chen, Yikai Wang, Feng Wang, Zhengyi Wang, Huaping Liu

cs.AI

Zusammenfassung

Die automatische 3D-Generierung hat in letzter Zeit weitreichende Aufmerksamkeit erregt. Aktuelle Methoden haben die Generierungsgeschwindigkeit erheblich beschleunigt, erzeugen jedoch in der Regel weniger detaillierte Objekte aufgrund begrenzter Modellkapazität oder 3D-Daten. Angeregt durch die jüngsten Fortschritte bei Videodiffusionsmodellen, stellen wir V3D vor, das die Welt-Simulationskapazität vorab trainierter Videodiffusionsmodelle nutzt, um die 3D-Generierung zu erleichtern. Um das Potenzial der Videodiffusion zur Wahrnehmung der 3D-Welt voll auszuschöpfen, führen wir zusätzlich geometrische Konsistenzprioritäten ein und erweitern das Videodiffusionsmodell zu einem mehrblickkonsistenten 3D-Generator. Durch diese Maßnahmen kann das modernste Videodiffusionsmodell feinabgestimmt werden, um 360-Grad-Orbitrahmen um ein Objekt zu generieren, basierend auf einem einzelnen Bild. Mit unseren maßgeschneiderten Rekonstruktionspipelines können hochwertige Meshes oder 3D-Gaußsche innerhalb von 3 Minuten generiert werden. Darüber hinaus kann unsere Methode auf die Synthese von Szenen-Novelansichten erweitert werden, wodurch eine präzise Steuerung des Kamerapfads mit wenigen Eingangsansichten erreicht wird. Umfangreiche Experimente zeigen die überragende Leistung des vorgeschlagenen Ansatzes, insbesondere in Bezug auf Generierungsqualität und Mehrblickkonsistenz. Unser Code ist verfügbar unter https://github.com/heheyas/V3D

English

Automatic 3D generation has recently attracted widespread attention. Recent methods have greatly accelerated the generation speed, but usually produce less-detailed objects due to limited model capacity or 3D data. Motivated by recent advancements in video diffusion models, we introduce V3D, which leverages the world simulation capacity of pre-trained video diffusion models to facilitate 3D generation. To fully unleash the potential of video diffusion to perceive the 3D world, we further introduce geometrical consistency prior and extend the video diffusion model to a multi-view consistent 3D generator. Benefiting from this, the state-of-the-art video diffusion model could be fine-tuned to generate 360degree orbit frames surrounding an object given a single image. With our tailored reconstruction pipelines, we can generate high-quality meshes or 3D Gaussians within 3 minutes. Furthermore, our method can be extended to scene-level novel view synthesis, achieving precise control over the camera path with sparse input views. Extensive experiments demonstrate the superior performance of the proposed approach, especially in terms of generation quality and multi-view consistency. Our code is available at https://github.com/heheyas/V3D