Trans4D: Transição Realista Consciente da Geometria para a Síntese Textual-para-4D Composicional

Trans4D: Realistic Geometry-Aware Transition for Compositional Text-to-4D Synthesis

October 9, 2024

Autores: Bohan Zeng, Ling Yang, Siyu Li, Jiaming Liu, Zixiang Zhang, Juanxi Tian, Kaixin Zhu, Yongzhen Guo, Fu-Yun Wang, Minkai Xu, Stefano Ermon, Wentao Zhang

cs.AI

Resumo

Os avanços recentes em modelos de difusão têm demonstrado capacidades excepcionais na geração de imagens e vídeos, melhorando ainda mais a eficácia da síntese 4D. Métodos de geração 4D existentes podem criar objetos ou cenas 4D de alta qualidade com base em condições amigáveis ao usuário, beneficiando as indústrias de jogos e vídeos. No entanto, esses métodos enfrentam dificuldades em sintetizar deformações significativas de objetos em transições 4D complexas e interações dentro das cenas. Para enfrentar esse desafio, propomos o Trans4D, um novo framework de síntese de texto para 4D que possibilita transições de cena complexas realistas. Especificamente, primeiro utilizamos modelos de linguagem multimodal grande (MLLMs) para produzir uma descrição de cena consciente da física para inicialização de cena 4D e planejamento eficaz de tempo de transição. Em seguida, propomos uma rede de transição 4D consciente da geometria para realizar uma transição 4D de nível de cena complexa com base no plano, que envolve deformações geométricas expressivas de objetos. Experimentos extensivos demonstram que o Trans4D consistentemente supera os métodos existentes de ponta na geração de cenas 4D com transições precisas e de alta qualidade, validando sua eficácia. Código: https://github.com/YangLing0818/Trans4D

English

Recent advances in diffusion models have demonstrated exceptional capabilities in image and video generation, further improving the effectiveness of 4D synthesis. Existing 4D generation methods can generate high-quality 4D objects or scenes based on user-friendly conditions, benefiting the gaming and video industries. However, these methods struggle to synthesize significant object deformation of complex 4D transitions and interactions within scenes. To address this challenge, we propose Trans4D, a novel text-to-4D synthesis framework that enables realistic complex scene transitions. Specifically, we first use multi-modal large language models (MLLMs) to produce a physic-aware scene description for 4D scene initialization and effective transition timing planning. Then we propose a geometry-aware 4D transition network to realize a complex scene-level 4D transition based on the plan, which involves expressive geometrical object deformation. Extensive experiments demonstrate that Trans4D consistently outperforms existing state-of-the-art methods in generating 4D scenes with accurate and high-quality transitions, validating its effectiveness. Code: https://github.com/YangLing0818/Trans4D