Matting tramite Generazione

Matting by Generation

July 30, 2024

Autori: Zhixiang Wang, Baiang Li, Jian Wang, Yu-Lun Liu, Jinwei Gu, Yung-Yu Chuang, Shin'ichi Satoh

cs.AI

Abstract

Questo articolo introduce un approccio innovativo per il matting di immagini che ridefinisce il tradizionale compito basato sulla regressione come una sfida di modellazione generativa. Il nostro metodo sfrutta le capacità dei modelli di diffusione latente, arricchiti da una vasta conoscenza pre-addestrata, per regolarizzare il processo di matting. Presentiamo innovazioni architetturali che consentono al nostro modello di produrre matte con una risoluzione e un dettaglio superiori. Il metodo proposto è versatile e può eseguire il matting di immagini sia senza guida che con guida, adattandosi a una varietà di indizi aggiuntivi. La nostra valutazione completa su tre dataset di riferimento dimostra la performance superiore del nostro approccio, sia quantitativamente che qualitativamente. I risultati non solo riflettono l'efficacia robusta del nostro metodo, ma evidenziano anche la sua capacità di generare matte visivamente accattivanti che si avvicinano alla qualità fotorealistica. La pagina del progetto per questo articolo è disponibile all'indirizzo https://lightchaserx.github.io/matting-by-generation/

English

This paper introduces an innovative approach for image matting that redefines the traditional regression-based task as a generative modeling challenge. Our method harnesses the capabilities of latent diffusion models, enriched with extensive pre-trained knowledge, to regularize the matting process. We present novel architectural innovations that empower our model to produce mattes with superior resolution and detail. The proposed method is versatile and can perform both guidance-free and guidance-based image matting, accommodating a variety of additional cues. Our comprehensive evaluation across three benchmark datasets demonstrates the superior performance of our approach, both quantitatively and qualitatively. The results not only reflect our method's robust effectiveness but also highlight its ability to generate visually compelling mattes that approach photorealistic quality. The project page for this paper is available at https://lightchaserx.github.io/matting-by-generation/