V3D: Modelos de Difusão de Vídeo são Geradores 3D Eficazes

V3D: Video Diffusion Models are Effective 3D Generators

March 11, 2024

Autores: Zilong Chen, Yikai Wang, Feng Wang, Zhengyi Wang, Huaping Liu

cs.AI

Resumo

A geração automática 3D tem atraído recentemente ampla atenção. Métodos recentes aceleraram significativamente a velocidade de geração, mas geralmente produzem objetos menos detalhados devido à capacidade limitada do modelo ou aos dados 3D. Motivados pelos avanços recentes em modelos de difusão de vídeo, introduzimos o V3D, que aproveita a capacidade de simulação de mundo de modelos de difusão de vídeo pré-treinados para facilitar a geração 3D. Para liberar plenamente o potencial da difusão de vídeo na percepção do mundo 3D, introduzimos ainda um prior de consistência geométrica e estendemos o modelo de difusão de vídeo para um gerador 3D consistente de múltiplas visões. Beneficiando-se disso, o modelo de difusão de vídeo state-of-the-art pode ser ajustado para gerar quadros de órbita de 360 graus ao redor de um objeto a partir de uma única imagem. Com nossos pipelines de reconstrução personalizados, podemos gerar malhas de alta qualidade ou Gaussianas 3D em até 3 minutos. Além disso, nosso método pode ser estendido para a síntese de novas visões em nível de cena, alcançando controle preciso sobre o caminho da câmera com visões de entrada esparsas. Experimentos extensivos demonstram o desempenho superior da abordagem proposta, especialmente em termos de qualidade de geração e consistência de múltiplas visões. Nosso código está disponível em https://github.com/heheyas/V3D.

English

Automatic 3D generation has recently attracted widespread attention. Recent methods have greatly accelerated the generation speed, but usually produce less-detailed objects due to limited model capacity or 3D data. Motivated by recent advancements in video diffusion models, we introduce V3D, which leverages the world simulation capacity of pre-trained video diffusion models to facilitate 3D generation. To fully unleash the potential of video diffusion to perceive the 3D world, we further introduce geometrical consistency prior and extend the video diffusion model to a multi-view consistent 3D generator. Benefiting from this, the state-of-the-art video diffusion model could be fine-tuned to generate 360degree orbit frames surrounding an object given a single image. With our tailored reconstruction pipelines, we can generate high-quality meshes or 3D Gaussians within 3 minutes. Furthermore, our method can be extended to scene-level novel view synthesis, achieving precise control over the camera path with sparse input views. Extensive experiments demonstrate the superior performance of the proposed approach, especially in terms of generation quality and multi-view consistency. Our code is available at https://github.com/heheyas/V3D