Edición de Video en Formato Vertical Potenciada por Pautas Generativas Multimodales

Portrait Video Editing Empowered by Multimodal Generative Priors

September 20, 2024

Autores: Xuan Gao, Haiyao Xiao, Chenglai Zhong, Shimin Hu, Yudong Guo, Juyong Zhang

cs.AI

Resumen

Presentamos PortraitGen, un potente método de edición de videos de retratos que logra una estilización consistente y expresiva con indicaciones multimodales. Los métodos tradicionales de edición de videos de retratos a menudo tienen dificultades con la consistencia tridimensional y temporal, y suelen carecer de calidad y eficiencia de renderizado. Para abordar estos problemas, elevamos los fotogramas de video de retratos a un campo gaussiano 3D dinámico unificado, que garantiza coherencia estructural y temporal entre los fotogramas. Además, diseñamos un novedoso mecanismo de Textura Gaussiana Neuronal que no solo permite una edición de estilo sofisticada, sino que también logra una velocidad de renderizado de más de 100FPS. Nuestro enfoque incorpora entradas multimodales a través de conocimientos destilados de modelos generativos 2D a gran escala. Nuestro sistema también incorpora orientación de similitud de expresiones y un módulo de edición de retratos consciente de la cara, mitigando efectivamente problemas de degradación asociados con actualizaciones iterativas de conjuntos de datos. Experimentos extensos demuestran la consistencia temporal, eficiencia de edición y calidad de renderizado superior de nuestro método. La amplia aplicabilidad del enfoque propuesto se demuestra a través de diversas aplicaciones, incluida la edición basada en texto, la edición basada en imágenes y el reiluminado, destacando su gran potencial para avanzar en el campo de la edición de videos. Se proporcionan videos de demostración y código publicado en nuestra página del proyecto: https://ustc3dv.github.io/PortraitGen/

English

We introduce PortraitGen, a powerful portrait video editing method that achieves consistent and expressive stylization with multimodal prompts. Traditional portrait video editing methods often struggle with 3D and temporal consistency, and typically lack in rendering quality and efficiency. To address these issues, we lift the portrait video frames to a unified dynamic 3D Gaussian field, which ensures structural and temporal coherence across frames. Furthermore, we design a novel Neural Gaussian Texture mechanism that not only enables sophisticated style editing but also achieves rendering speed over 100FPS. Our approach incorporates multimodal inputs through knowledge distilled from large-scale 2D generative models. Our system also incorporates expression similarity guidance and a face-aware portrait editing module, effectively mitigating degradation issues associated with iterative dataset updates. Extensive experiments demonstrate the temporal consistency, editing efficiency, and superior rendering quality of our method. The broad applicability of the proposed approach is demonstrated through various applications, including text-driven editing, image-driven editing, and relighting, highlighting its great potential to advance the field of video editing. Demo videos and released code are provided in our project page: https://ustc3dv.github.io/PortraitGen/