Trans4D: Реалистичный Геометрически-Осознанный Переход для Композиционного Синтеза Текста в 4D

Trans4D: Realistic Geometry-Aware Transition for Compositional Text-to-4D Synthesis

October 9, 2024

Авторы: Bohan Zeng, Ling Yang, Siyu Li, Jiaming Liu, Zixiang Zhang, Juanxi Tian, Kaixin Zhu, Yongzhen Guo, Fu-Yun Wang, Minkai Xu, Stefano Ermon, Wentao Zhang

cs.AI

Аннотация

Недавние достижения в моделях диффузии продемонстрировали исключительные возможности в генерации изображений и видео, дополнительно улучшая эффективность 4D синтеза. Существующие методы 4D генерации могут создавать высококачественные 4D объекты или сцены на основе удобных для пользователя условий, что приносит пользу игровой и видеоиндустрии. Однако эти методы испытывают затруднения при синтезе значительного деформирования объектов сложных 4D переходов и взаимодействий в сценах. Для решения этой проблемы мы предлагаем Trans4D, новую рамку синтеза текста в 4D, которая позволяет реалистичные сложные переходы сцен. Конкретно, мы сначала используем многомодальные большие языковые модели (MLLMs) для создания физически осознанного описания сцены для инициализации 4D сцены и эффективного планирования времени перехода. Затем мы предлагаем геометрически осознанную 4D сеть перехода для реализации сложного 4D перехода на уровне сцены на основе плана, который включает выразительное геометрическое деформирование объектов. Обширные эксперименты показывают, что Trans4D последовательно превосходит существующие передовые методы в генерации 4D сцен с точными и высококачественными переходами, подтверждая его эффективность. Код: https://github.com/YangLing0818/Trans4D

English

Recent advances in diffusion models have demonstrated exceptional capabilities in image and video generation, further improving the effectiveness of 4D synthesis. Existing 4D generation methods can generate high-quality 4D objects or scenes based on user-friendly conditions, benefiting the gaming and video industries. However, these methods struggle to synthesize significant object deformation of complex 4D transitions and interactions within scenes. To address this challenge, we propose Trans4D, a novel text-to-4D synthesis framework that enables realistic complex scene transitions. Specifically, we first use multi-modal large language models (MLLMs) to produce a physic-aware scene description for 4D scene initialization and effective transition timing planning. Then we propose a geometry-aware 4D transition network to realize a complex scene-level 4D transition based on the plan, which involves expressive geometrical object deformation. Extensive experiments demonstrate that Trans4D consistently outperforms existing state-of-the-art methods in generating 4D scenes with accurate and high-quality transitions, validating its effectiveness. Code: https://github.com/YangLing0818/Trans4D