VolumeDiffusion: Flexibele tekst-naar-3D-generatie met efficiënte volumetrische encoder

VolumeDiffusion: Flexible Text-to-3D Generation with Efficient Volumetric Encoder

December 18, 2023

Auteurs: Zhicong Tang, Shuyang Gu, Chunyu Wang, Ting Zhang, Jianmin Bao, Dong Chen, Baining Guo

cs.AI

Samenvatting

Dit artikel introduceert een baanbrekende 3D volumetrische encoder die is ontworpen voor tekst-naar-3D-generatie. Om de trainingsdata voor het diffusiemodel op te schalen, is een lichtgewicht netwerk ontwikkeld om efficiënt featurevolumes te verkrijgen uit multi-view afbeeldingen. De 3D volumes worden vervolgens getraind op een diffusiemodel voor tekst-naar-3D-generatie met behulp van een 3D U-Net. Dit onderzoek gaat verder in op de uitdagingen van onnauwkeurige objectbeschrijvingen en hoogdimensionale featurevolumes. Het voorgestelde model, getraind op de openbare Objaverse dataset, toont veelbelovende resultaten in het produceren van diverse en herkenbare samples uit tekstprompts. Opmerkelijk is dat het fijnere controle mogelijk maakt over de kenmerken van objectonderdelen door middel van tekstuele aanwijzingen, wat de creativiteit van het model bevordert door naadloos meerdere concepten binnen een enkel object te combineren. Dit onderzoek draagt aanzienlijk bij aan de vooruitgang van 3D-generatie door een efficiënte, flexibele en schaalbare representatiemethodologie te introduceren. Code is beschikbaar op https://github.com/tzco/VolumeDiffusion.

English

This paper introduces a pioneering 3D volumetric encoder designed for text-to-3D generation. To scale up the training data for the diffusion model, a lightweight network is developed to efficiently acquire feature volumes from multi-view images. The 3D volumes are then trained on a diffusion model for text-to-3D generation using a 3D U-Net. This research further addresses the challenges of inaccurate object captions and high-dimensional feature volumes. The proposed model, trained on the public Objaverse dataset, demonstrates promising outcomes in producing diverse and recognizable samples from text prompts. Notably, it empowers finer control over object part characteristics through textual cues, fostering model creativity by seamlessly combining multiple concepts within a single object. This research significantly contributes to the progress of 3D generation by introducing an efficient, flexible, and scalable representation methodology. Code is available at https://github.com/tzco/VolumeDiffusion.