Trans4D: Transizione realistica consapevole della geometria per la sintesi testuale compositiva in 4D

Trans4D: Realistic Geometry-Aware Transition for Compositional Text-to-4D Synthesis

October 9, 2024

Autori: Bohan Zeng, Ling Yang, Siyu Li, Jiaming Liu, Zixiang Zhang, Juanxi Tian, Kaixin Zhu, Yongzhen Guo, Fu-Yun Wang, Minkai Xu, Stefano Ermon, Wentao Zhang

cs.AI

Abstract

I recenti progressi nei modelli di diffusione hanno dimostrato capacità eccezionali nella generazione di immagini e video, migliorando ulteriormente l'efficacia della sintesi 4D. I metodi esistenti di generazione 4D possono creare oggetti o scene 4D di alta qualità basati su condizioni user-friendly, apportando benefici alle industrie videoludica e cinematografica. Tuttavia, tali metodi faticano a sintetizzare deformazioni significative degli oggetti in transizioni 4D complesse e interazioni all'interno delle scene. Per affrontare questa sfida, proponiamo Trans4D, un nuovo framework di sintesi testo-4D che consente transizioni realistiche e complesse delle scene. In particolare, utilizziamo inizialmente modelli linguistici multimodali di grandi dimensioni (MLLMs) per produrre una descrizione della scena consapevole della fisica per l'inizializzazione della scena 4D e la pianificazione efficace dei tempi di transizione. Successivamente, proponiamo una rete di transizione 4D consapevole della geometria per realizzare una transizione 4D a livello di scena complessa basata sul piano, che coinvolge deformazioni espressive degli oggetti geometrici. Estesi esperimenti dimostrano che Trans4D supera costantemente i metodi esistenti all'avanguardia nella generazione di scene 4D con transizioni accurate e di alta qualità, convalidandone l'efficacia. Codice: https://github.com/YangLing0818/Trans4D

English

Recent advances in diffusion models have demonstrated exceptional capabilities in image and video generation, further improving the effectiveness of 4D synthesis. Existing 4D generation methods can generate high-quality 4D objects or scenes based on user-friendly conditions, benefiting the gaming and video industries. However, these methods struggle to synthesize significant object deformation of complex 4D transitions and interactions within scenes. To address this challenge, we propose Trans4D, a novel text-to-4D synthesis framework that enables realistic complex scene transitions. Specifically, we first use multi-modal large language models (MLLMs) to produce a physic-aware scene description for 4D scene initialization and effective transition timing planning. Then we propose a geometry-aware 4D transition network to realize a complex scene-level 4D transition based on the plan, which involves expressive geometrical object deformation. Extensive experiments demonstrate that Trans4D consistently outperforms existing state-of-the-art methods in generating 4D scenes with accurate and high-quality transitions, validating its effectiveness. Code: https://github.com/YangLing0818/Trans4D