Het leren van Stroomvelden in Aandacht voor Controleerbare Beeldgeneratie van Personen

Samenvatting

Het genereren van controleerbare persoonsafbeeldingen heeft als doel een persoonsafbeelding te genereren op basis van referentieafbeeldingen, waardoor nauwkeurige controle over het uiterlijk of de houding van de persoon mogelijk is. Echter, eerdere methoden vervormen vaak fijngestructureerde textuurdetails van de referentieafbeelding, ondanks het behalen van een hoge algehele beeldkwaliteit. Wij schrijven deze vervormingen toe aan onvoldoende aandacht voor overeenkomstige regio's in de referentieafbeelding. Om dit aan te pakken, stellen wij daarom voor om leerstroomvelden in aandacht (Leffa) te leren, die het doelzoekende model expliciet begeleiden om tijdens de training de juiste referentiesleutel in de aandachtslaag bij te wonen. Specifiek wordt dit gerealiseerd via een regularisatieloss bovenop de aandachtskaart binnen een diffusiegebaseerde basislijn. Onze uitgebreide experimenten tonen aan dat Leffa state-of-the-art prestaties behaalt in het controleren van uiterlijk (virtueel passen) en houding (houdingsoverdracht), waarbij fijngestructureerde detailvervorming aanzienlijk wordt verminderd terwijl de hoge beeldkwaliteit behouden blijft. Daarnaast tonen we aan dat onze loss model-agnostisch is en kan worden gebruikt om de prestaties van andere diffusiemodellen te verbeteren.

English

Controllable person image generation aims to generate a person image conditioned on reference images, allowing precise control over the person's appearance or pose. However, prior methods often distort fine-grained textural details from the reference image, despite achieving high overall image quality. We attribute these distortions to inadequate attention to corresponding regions in the reference image. To address this, we thereby propose learning flow fields in attention (Leffa), which explicitly guides the target query to attend to the correct reference key in the attention layer during training. Specifically, it is realized via a regularization loss on top of the attention map within a diffusion-based baseline. Our extensive experiments show that Leffa achieves state-of-the-art performance in controlling appearance (virtual try-on) and pose (pose transfer), significantly reducing fine-grained detail distortion while maintaining high image quality. Additionally, we show that our loss is model-agnostic and can be used to improve the performance of other diffusion models.

Het leren van Stroomvelden in Aandacht voor Controleerbare Beeldgeneratie van Personen

Learning Flow Fields in Attention for Controllable Person Image Generation

Samenvatting

Support