I-Max: Maximizar el Potencial de Resolución de Transformadores de Flujo Rectificado Pre-entrenados con Flujo Proyectado

I-Max: Maximize the Resolution Potential of Pre-trained Rectified Flow Transformers with Projected Flow

October 10, 2024

Autores: Ruoyi Du, Dongyang Liu, Le Zhuo, Qin Qi, Hongsheng Li, Zhanyu Ma, Peng Gao

cs.AI

Resumen

Los Transformadores de Flujo Rectificado (RFTs) ofrecen una eficiencia superior en entrenamiento e inferencia, lo que los convierte probablemente en la dirección más viable para escalar modelos de difusión. Sin embargo, el progreso en la resolución de generación ha sido relativamente lento debido a la calidad de los datos y los costos de entrenamiento. La extrapolación de resolución sin ajuste presenta una alternativa, pero los métodos actuales a menudo reducen la estabilidad generativa, limitando su aplicación práctica. En este documento, revisamos los métodos existentes de extrapolación de resolución e introducimos el marco I-Max para maximizar el potencial de resolución de los RFTs de Texto a Imagen. I-Max presenta: (i) una estrategia novedosa de Flujo Proyectado para una extrapolación estable y (ii) un kit de herramientas de inferencia avanzado para generalizar el conocimiento del modelo a resoluciones más altas. Experimentos con Lumina-Next-2K y Flux.1-dev demuestran la capacidad de I-Max para mejorar la estabilidad en la extrapolación de resolución y muestran que puede aportar la emergencia de detalles de imagen y la corrección de artefactos, confirmando el valor práctico de la extrapolación de resolución sin ajuste.

English

Rectified Flow Transformers (RFTs) offer superior training and inference efficiency, making them likely the most viable direction for scaling up diffusion models. However, progress in generation resolution has been relatively slow due to data quality and training costs. Tuning-free resolution extrapolation presents an alternative, but current methods often reduce generative stability, limiting practical application. In this paper, we review existing resolution extrapolation methods and introduce the I-Max framework to maximize the resolution potential of Text-to-Image RFTs. I-Max features: (i) a novel Projected Flow strategy for stable extrapolation and (ii) an advanced inference toolkit for generalizing model knowledge to higher resolutions. Experiments with Lumina-Next-2K and Flux.1-dev demonstrate I-Max's ability to enhance stability in resolution extrapolation and show that it can bring image detail emergence and artifact correction, confirming the practical value of tuning-free resolution extrapolation.