Trans4D : Transition réaliste conscient de la géométrie pour la synthèse textuelle compositionnelle en 4D

Trans4D: Realistic Geometry-Aware Transition for Compositional Text-to-4D Synthesis

October 9, 2024

Auteurs: Bohan Zeng, Ling Yang, Siyu Li, Jiaming Liu, Zixiang Zhang, Juanxi Tian, Kaixin Zhu, Yongzhen Guo, Fu-Yun Wang, Minkai Xu, Stefano Ermon, Wentao Zhang

cs.AI

Résumé

Les récents progrès dans les modèles de diffusion ont démontré des capacités exceptionnelles en matière de génération d'images et de vidéos, améliorant encore l'efficacité de la synthèse 4D. Les méthodes de génération 4D existantes peuvent produire des objets ou des scènes 4D de haute qualité en fonction de conditions conviviales, bénéficiant ainsi aux industries du jeu et de la vidéo. Cependant, ces méthodes peinent à synthétiser des déformations significatives d'objets dans des transitions 4D complexes et des interactions au sein des scènes. Pour relever ce défi, nous proposons Trans4D, un nouveau cadre de synthèse texte-vers-4D qui permet des transitions de scènes complexes et réalistes. Plus précisément, nous utilisons d'abord des modèles de langage multimodaux de grande taille (MLLMs) pour produire une description de scène consciente de la physique pour l'initialisation de la scène 4D et la planification efficace du timing des transitions. Ensuite, nous proposons un réseau de transition 4D conscient de la géométrie pour réaliser une transition 4D au niveau de la scène complexe basée sur le plan, impliquant une déformation d'objet géométrique expressive. Des expériences approfondies démontrent que Trans4D surpasse de manière constante les méthodes existantes de pointe en matière de génération de scènes 4D avec des transitions précises et de haute qualité, validant ainsi son efficacité. Code : https://github.com/YangLing0818/Trans4D

English

Recent advances in diffusion models have demonstrated exceptional capabilities in image and video generation, further improving the effectiveness of 4D synthesis. Existing 4D generation methods can generate high-quality 4D objects or scenes based on user-friendly conditions, benefiting the gaming and video industries. However, these methods struggle to synthesize significant object deformation of complex 4D transitions and interactions within scenes. To address this challenge, we propose Trans4D, a novel text-to-4D synthesis framework that enables realistic complex scene transitions. Specifically, we first use multi-modal large language models (MLLMs) to produce a physic-aware scene description for 4D scene initialization and effective transition timing planning. Then we propose a geometry-aware 4D transition network to realize a complex scene-level 4D transition based on the plan, which involves expressive geometrical object deformation. Extensive experiments demonstrate that Trans4D consistently outperforms existing state-of-the-art methods in generating 4D scenes with accurate and high-quality transitions, validating its effectiveness. Code: https://github.com/YangLing0818/Trans4D