V3D: Модели видеораспространения - эффективные генераторы 3D.

V3D: Video Diffusion Models are Effective 3D Generators

March 11, 2024

Авторы: Zilong Chen, Yikai Wang, Feng Wang, Zhengyi Wang, Huaping Liu

cs.AI

Аннотация

Автоматическая генерация 3D-моделей недавно привлекла широкое внимание. Недавние методы значительно увеличили скорость генерации, но обычно создают менее детализированные объекты из-за ограниченных возможностей модели или 3D-данных. Вдохновленные последними достижениями в области видео-моделей диффузии, мы представляем V3D, который использует возможности симуляции мира предварительно обученных видео-моделей диффузии для облегчения генерации 3D-моделей. Для полного раскрытия потенциала видео-диффузии в восприятии 3D-мира, мы дополнительно вводим приоритет согласованности геометрии и расширяем видео-модель диффузии до многопозиционного согласованного 3D-генератора. Благодаря этому, передовая видео-модель диффузии может быть настроена для генерации кадров орбитального обзора на 360 градусов вокруг объекта по одному изображению. С помощью наших настроенных конвейеров реконструкции мы можем создавать качественные сетки или 3D-гауссианы всего за 3 минуты. Более того, наш метод может быть расширен до синтеза нового вида на уровне сцены, обеспечивая точный контроль над траекторией камеры с ограниченными входными видами. Обширные эксперименты демонстрируют превосходную производительность предложенного подхода, особенно в плане качества генерации и согласованности многопозиционного вида. Наш код доступен по адресу https://github.com/heheyas/V3D

English

Automatic 3D generation has recently attracted widespread attention. Recent methods have greatly accelerated the generation speed, but usually produce less-detailed objects due to limited model capacity or 3D data. Motivated by recent advancements in video diffusion models, we introduce V3D, which leverages the world simulation capacity of pre-trained video diffusion models to facilitate 3D generation. To fully unleash the potential of video diffusion to perceive the 3D world, we further introduce geometrical consistency prior and extend the video diffusion model to a multi-view consistent 3D generator. Benefiting from this, the state-of-the-art video diffusion model could be fine-tuned to generate 360degree orbit frames surrounding an object given a single image. With our tailored reconstruction pipelines, we can generate high-quality meshes or 3D Gaussians within 3 minutes. Furthermore, our method can be extended to scene-level novel view synthesis, achieving precise control over the camera path with sparse input views. Extensive experiments demonstrate the superior performance of the proposed approach, especially in terms of generation quality and multi-view consistency. Our code is available at https://github.com/heheyas/V3D