Generación de Mateado

Matting by Generation

July 30, 2024

Autores: Zhixiang Wang, Baiang Li, Jian Wang, Yu-Lun Liu, Jinwei Gu, Yung-Yu Chuang, Shin'ichi Satoh

cs.AI

Resumen

Este documento presenta un enfoque innovador para el matting de imágenes que redefine la tarea tradicional basada en regresión como un desafío de modelado generativo. Nuestro método aprovecha las capacidades de los modelos de difusión latente, enriquecidos con un extenso conocimiento pre-entrenado, para regularizar el proceso de matting. Presentamos innovaciones arquitectónicas novedosas que potencian a nuestro modelo para producir máscaras con una resolución y detalle superiores. El método propuesto es versátil y puede realizar tanto matting de imágenes sin guía como basado en guía, adaptándose a una variedad de señales adicionales. Nuestra evaluación exhaustiva en tres conjuntos de datos de referencia demuestra el rendimiento superior de nuestro enfoque, tanto cuantitativa como cualitativamente. Los resultados no solo reflejan la efectividad robusta de nuestro método, sino que también resaltan su capacidad para generar máscaras visualmente atractivas que se acercan a una calidad fotorrealista. La página del proyecto para este documento está disponible en https://lightchaserx.github.io/matting-by-generation/

English

This paper introduces an innovative approach for image matting that redefines the traditional regression-based task as a generative modeling challenge. Our method harnesses the capabilities of latent diffusion models, enriched with extensive pre-trained knowledge, to regularize the matting process. We present novel architectural innovations that empower our model to produce mattes with superior resolution and detail. The proposed method is versatile and can perform both guidance-free and guidance-based image matting, accommodating a variety of additional cues. Our comprehensive evaluation across three benchmark datasets demonstrates the superior performance of our approach, both quantitatively and qualitatively. The results not only reflect our method's robust effectiveness but also highlight its ability to generate visually compelling mattes that approach photorealistic quality. The project page for this paper is available at https://lightchaserx.github.io/matting-by-generation/