Trans4D: Realistische geometriebewusste Transition für die kompositionelle Text-zu-4D-Synthese.

Trans4D: Realistic Geometry-Aware Transition for Compositional Text-to-4D Synthesis

October 9, 2024

Autoren: Bohan Zeng, Ling Yang, Siyu Li, Jiaming Liu, Zixiang Zhang, Juanxi Tian, Kaixin Zhu, Yongzhen Guo, Fu-Yun Wang, Minkai Xu, Stefano Ermon, Wentao Zhang

cs.AI

Zusammenfassung

In jüngster Zeit haben Fortschritte in Diffusionsmodellen außergewöhnliche Fähigkeiten bei der Bild- und Videogenerierung gezeigt und die Effektivität der 4D-Synthese weiter verbessert. Bestehende 4D-Generierungsmethoden können hochwertige 4D-Objekte oder Szenen unter benutzerfreundlichen Bedingungen generieren, was der Gaming- und Videobranche zugutekommt. Allerdings haben diese Methoden Schwierigkeiten, signifikante Objektverformungen komplexer 4D-Übergänge und Interaktionen innerhalb von Szenen zu synthetisieren. Um diese Herausforderung anzugehen, schlagen wir Trans4D vor, ein neuartiges Text-zu-4D-Synthese-Framework, das realistische komplexe Szenenübergänge ermöglicht. Konkret verwenden wir zunächst multimodale große Sprachmodelle (MLLMs), um eine physikbewusste Szenenbeschreibung für die 4D-Szeneninitialisierung und die effektive Planung der Übergangszeit zu erstellen. Anschließend schlagen wir ein geometriebewusstes 4D-Übergangsnetzwerk vor, um einen komplexen Szenen-4D-Übergang basierend auf dem Plan zu realisieren, der eine ausdrucksstarke geometrische Objektverformung beinhaltet. Umfangreiche Experimente zeigen, dass Trans4D kontinuierlich die bestehenden State-of-the-Art-Methoden in der Generierung von 4D-Szenen mit genauen und hochwertigen Übergängen übertrifft und damit seine Wirksamkeit bestätigt. Code: https://github.com/YangLing0818/Trans4D

English

Recent advances in diffusion models have demonstrated exceptional capabilities in image and video generation, further improving the effectiveness of 4D synthesis. Existing 4D generation methods can generate high-quality 4D objects or scenes based on user-friendly conditions, benefiting the gaming and video industries. However, these methods struggle to synthesize significant object deformation of complex 4D transitions and interactions within scenes. To address this challenge, we propose Trans4D, a novel text-to-4D synthesis framework that enables realistic complex scene transitions. Specifically, we first use multi-modal large language models (MLLMs) to produce a physic-aware scene description for 4D scene initialization and effective transition timing planning. Then we propose a geometry-aware 4D transition network to realize a complex scene-level 4D transition based on the plan, which involves expressive geometrical object deformation. Extensive experiments demonstrate that Trans4D consistently outperforms existing state-of-the-art methods in generating 4D scenes with accurate and high-quality transitions, validating its effectiveness. Code: https://github.com/YangLing0818/Trans4D