LeviTor: Синтез изображения в видео на основе трехмерной траектории

LeviTor: 3D Trajectory Oriented Image-to-Video Synthesis

December 19, 2024

Авторы: Hanlin Wang, Hao Ouyang, Qiuyu Wang, Wen Wang, Ka Leong Cheng, Qifeng Chen, Yujun Shen, Limin Wang

cs.AI

Аннотация

Интуитивная природа взаимодействия на основе перетаскивания привела к его все более широкому применению для управления траекториями объектов в синтезе изображений в видео. Тем не менее, существующие методы, осуществляющие перетаскивание в 2D пространстве, обычно сталкиваются с неоднозначностью при обработке движений вне плоскости. В данной работе мы расширяем взаимодействие новым измерением, а именно, глубинным измерением, позволяя пользователям назначать относительную глубину для каждой точки на траектории. Таким образом, наш новый парадигма взаимодействия не только наследует удобство 2D перетаскивания, но также облегчает управление траекториями в 3D пространстве, расширяя возможности творчества. Мы предлагаем первоначальный метод управления 3D траекториями в синтезе изображений в видео, абстрагируя маски объектов в несколько кластерных точек. Эти точки, сопровождаемые информацией о глубине и информацией об экземпляре, в конечном итоге подаются в модель видеодиффузии в качестве сигнала управления. Обширные эксперименты подтверждают эффективность нашего подхода, названного LeviTor, в точном управлении движениями объектов при создании фотореалистичных видео из статических изображений. Страница проекта: https://ppetrichor.github.io/levitor.github.io/

English

The intuitive nature of drag-based interaction has led to its growing adoption for controlling object trajectories in image-to-video synthesis. Still, existing methods that perform dragging in the 2D space usually face ambiguity when handling out-of-plane movements. In this work, we augment the interaction with a new dimension, i.e., the depth dimension, such that users are allowed to assign a relative depth for each point on the trajectory. That way, our new interaction paradigm not only inherits the convenience from 2D dragging, but facilitates trajectory control in the 3D space, broadening the scope of creativity. We propose a pioneering method for 3D trajectory control in image-to-video synthesis by abstracting object masks into a few cluster points. These points, accompanied by the depth information and the instance information, are finally fed into a video diffusion model as the control signal. Extensive experiments validate the effectiveness of our approach, dubbed LeviTor, in precisely manipulating the object movements when producing photo-realistic videos from static images. Project page: https://ppetrichor.github.io/levitor.github.io/