I-Max: Maximaliseer het resolutiepotentieel van vooraf getrainde Rectified Flow Transformers met Geprojecteerde Flow

I-Max: Maximize the Resolution Potential of Pre-trained Rectified Flow Transformers with Projected Flow

October 10, 2024

Auteurs: Ruoyi Du, Dongyang Liu, Le Zhuo, Qin Qi, Hongsheng Li, Zhanyu Ma, Peng Gao

cs.AI

Samenvatting

Rectified Flow Transformers (RFT's) bieden superieure training en inferentie efficiëntie, waardoor ze waarschijnlijk de meest levensvatbare richting zijn voor het opschalen van diffusiemodellen. Echter, de vooruitgang in generatieresolutie is relatief traag geweest vanwege de kwaliteit van gegevens en trainingskosten. Resolutie-extrapolatie zonder afstemming biedt een alternatief, maar de huidige methoden verminderen vaak de generatieve stabiliteit, waardoor de praktische toepassing beperkt wordt. In dit artikel bekijken we bestaande resolutie-extrapolatiemethoden en introduceren we het I-Max framework om het resolutiepotentieel van Tekst-naar-Afbeelding RFT's te maximaliseren. I-Max kenmerkt zich door: (i) een nieuw Projected Flow strategie voor stabiele extrapolatie en (ii) een geavanceerde inferentietoolkit voor het generaliseren van modelkennis naar hogere resoluties. Experimenten met Lumina-Next-2K en Flux.1-dev tonen de mogelijkheid van I-Max om stabiliteit te verbeteren in resolutie-extrapolatie en laten zien dat het beeldgedetailleerdheid en artefactcorrectie kan brengen, wat de praktische waarde van resolutie-extrapolatie zonder afstemming bevestigt.

English

Rectified Flow Transformers (RFTs) offer superior training and inference efficiency, making them likely the most viable direction for scaling up diffusion models. However, progress in generation resolution has been relatively slow due to data quality and training costs. Tuning-free resolution extrapolation presents an alternative, but current methods often reduce generative stability, limiting practical application. In this paper, we review existing resolution extrapolation methods and introduce the I-Max framework to maximize the resolution potential of Text-to-Image RFTs. I-Max features: (i) a novel Projected Flow strategy for stable extrapolation and (ii) an advanced inference toolkit for generalizing model knowledge to higher resolutions. Experiments with Lumina-Next-2K and Flux.1-dev demonstrate I-Max's ability to enhance stability in resolution extrapolation and show that it can bring image detail emergence and artifact correction, confirming the practical value of tuning-free resolution extrapolation.