VolumeDiffusion: Geração Flexível de Texto para 3D com Codificador Volumétrico Eficiente

VolumeDiffusion: Flexible Text-to-3D Generation with Efficient Volumetric Encoder

December 18, 2023

Autores: Zhicong Tang, Shuyang Gu, Chunyu Wang, Ting Zhang, Jianmin Bao, Dong Chen, Baining Guo

cs.AI

Resumo

Este artigo apresenta um codificador volumétrico 3D pioneiro projetado para geração de texto-para-3D. Para ampliar os dados de treinamento do modelo de difusão, uma rede leve foi desenvolvida para adquirir eficientemente volumes de características a partir de imagens de múltiplas vistas. Os volumes 3D são então treinados em um modelo de difusão para geração de texto-para-3D utilizando uma U-Net 3D. Esta pesquisa aborda ainda os desafios de legendas de objetos imprecisas e volumes de características de alta dimensionalidade. O modelo proposto, treinado no conjunto de dados público Objaverse, demonstra resultados promissores na produção de amostras diversas e reconhecíveis a partir de prompts de texto. Notavelmente, ele permite um controle mais refinado sobre as características das partes dos objetos por meio de pistas textuais, fomentando a criatividade do modelo ao combinar de forma fluida múltiplos conceitos em um único objeto. Esta pesquisa contribui significativamente para o avanço da geração 3D ao introduzir uma metodologia de representação eficiente, flexível e escalável. O código está disponível em https://github.com/tzco/VolumeDiffusion.

English

This paper introduces a pioneering 3D volumetric encoder designed for text-to-3D generation. To scale up the training data for the diffusion model, a lightweight network is developed to efficiently acquire feature volumes from multi-view images. The 3D volumes are then trained on a diffusion model for text-to-3D generation using a 3D U-Net. This research further addresses the challenges of inaccurate object captions and high-dimensional feature volumes. The proposed model, trained on the public Objaverse dataset, demonstrates promising outcomes in producing diverse and recognizable samples from text prompts. Notably, it empowers finer control over object part characteristics through textual cues, fostering model creativity by seamlessly combining multiple concepts within a single object. This research significantly contributes to the progress of 3D generation by introducing an efficient, flexible, and scalable representation methodology. Code is available at https://github.com/tzco/VolumeDiffusion.