Geração de Máscaras

Matting by Generation

July 30, 2024

Autores: Zhixiang Wang, Baiang Li, Jian Wang, Yu-Lun Liu, Jinwei Gu, Yung-Yu Chuang, Shin'ichi Satoh

cs.AI

Resumo

Este artigo apresenta uma abordagem inovadora para o matting de imagens que redefine a tarefa tradicional baseada em regressão como um desafio de modelagem generativa. Nosso método aproveita as capacidades de modelos de difusão latente, enriquecidos com um extenso conhecimento pré-treinado, para regularizar o processo de matting. Apresentamos inovações arquiteturais que capacitam nosso modelo a produzir máscaras com resolução e detalhes superiores. O método proposto é versátil e pode realizar tanto o matting de imagens sem orientação quanto baseado em orientação, acomodando uma variedade de pistas adicionais. Nossa avaliação abrangente em três conjuntos de dados de referência demonstra o desempenho superior de nossa abordagem, tanto quantitativamente quanto qualitativamente. Os resultados não apenas refletem a eficácia robusta de nosso método, mas também destacam sua capacidade de gerar máscaras visualmente atraentes que se aproximam da qualidade fotorrealística. A página do projeto para este artigo está disponível em https://lightchaserx.github.io/matting-by-generation/

English

This paper introduces an innovative approach for image matting that redefines the traditional regression-based task as a generative modeling challenge. Our method harnesses the capabilities of latent diffusion models, enriched with extensive pre-trained knowledge, to regularize the matting process. We present novel architectural innovations that empower our model to produce mattes with superior resolution and detail. The proposed method is versatile and can perform both guidance-free and guidance-based image matting, accommodating a variety of additional cues. Our comprehensive evaluation across three benchmark datasets demonstrates the superior performance of our approach, both quantitatively and qualitatively. The results not only reflect our method's robust effectiveness but also highlight its ability to generate visually compelling mattes that approach photorealistic quality. The project page for this paper is available at https://lightchaserx.github.io/matting-by-generation/