Trans4D: Transición Realista Consciente de la Geometría para la Síntesis Textual a 4D

Trans4D: Realistic Geometry-Aware Transition for Compositional Text-to-4D Synthesis

October 9, 2024

Autores: Bohan Zeng, Ling Yang, Siyu Li, Jiaming Liu, Zixiang Zhang, Juanxi Tian, Kaixin Zhu, Yongzhen Guo, Fu-Yun Wang, Minkai Xu, Stefano Ermon, Wentao Zhang

cs.AI

Resumen

Los avances recientes en modelos de difusión han demostrado capacidades excepcionales en la generación de imágenes y videos, mejorando aún más la efectividad de la síntesis 4D. Los métodos de generación 4D existentes pueden crear objetos o escenas 4D de alta calidad basados en condiciones fáciles de usar, beneficiando a las industrias de los videojuegos y videos. Sin embargo, estos métodos tienen dificultades para sintetizar deformaciones significativas de objetos en transiciones 4D complejas e interacciones dentro de escenas. Para abordar este desafío, proponemos Trans4D, un novedoso marco de síntesis de texto a 4D que permite transiciones realistas y complejas de escenas. Específicamente, primero utilizamos modelos de lenguaje multimodales grandes (MLLMs) para producir una descripción de escena con conciencia física para la inicialización de la escena 4D y una planificación efectiva del tiempo de transición. Luego proponemos una red de transición 4D con conciencia geométrica para realizar una transición 4D a nivel de escena compleja basada en el plan, que implica deformaciones geométricas expresivas de objetos. Experimentos extensos demuestran que Trans4D supera consistentemente a los métodos existentes de vanguardia en la generación de escenas 4D con transiciones precisas y de alta calidad, validando su efectividad. Código: https://github.com/YangLing0818/Trans4D

English

Recent advances in diffusion models have demonstrated exceptional capabilities in image and video generation, further improving the effectiveness of 4D synthesis. Existing 4D generation methods can generate high-quality 4D objects or scenes based on user-friendly conditions, benefiting the gaming and video industries. However, these methods struggle to synthesize significant object deformation of complex 4D transitions and interactions within scenes. To address this challenge, we propose Trans4D, a novel text-to-4D synthesis framework that enables realistic complex scene transitions. Specifically, we first use multi-modal large language models (MLLMs) to produce a physic-aware scene description for 4D scene initialization and effective transition timing planning. Then we propose a geometry-aware 4D transition network to realize a complex scene-level 4D transition based on the plan, which involves expressive geometrical object deformation. Extensive experiments demonstrate that Trans4D consistently outperforms existing state-of-the-art methods in generating 4D scenes with accurate and high-quality transitions, validating its effectiveness. Code: https://github.com/YangLing0818/Trans4D