Fluido: Escalando modelos generativos autoregresivos de texto a imagen con tokens continuos

Fluid: Scaling Autoregressive Text-to-image Generative Models with Continuous Tokens

October 17, 2024

Autores: Lijie Fan, Tianhong Li, Siyang Qin, Yuanzhen Li, Chen Sun, Michael Rubinstein, Deqing Sun, Kaiming He, Yonglong Tian

cs.AI

Resumen

La ampliación de modelos autoregresivos en visión no ha demostrado ser tan beneficiosa como en los grandes modelos de lenguaje. En este trabajo, investigamos este problema de escalado en el contexto de la generación de texto a imagen, centrándonos en dos factores críticos: si los modelos utilizan tokens discretos o continuos, y si los tokens se generan en un orden de trama aleatorio o fijo utilizando arquitecturas de transformadores tipo BERT o GPT. Nuestros resultados empíricos muestran que, si bien todos los modelos escalan de manera efectiva en términos de pérdida de validación, su rendimiento de evaluación, medido por FID, puntuación GenEval y calidad visual, sigue tendencias diferentes. Los modelos basados en tokens continuos logran una calidad visual significativamente mejor que aquellos que utilizan tokens discretos. Además, el orden de generación y los mecanismos de atención afectan significativamente la puntuación GenEval: los modelos de orden aleatorio obtienen puntuaciones GenEval notablemente mejores en comparación con los modelos de orden de trama. Inspirados por estos hallazgos, entrenamos Fluid, un modelo autoregresivo de orden aleatorio en tokens continuos. El modelo Fluid 10.5B logra un nuevo FID de cero disparos de vanguardia de 6.16 en MS-COCO 30K, y una puntuación general de 0.69 en el banco de pruebas GenEval. Esperamos que nuestros hallazgos y resultados alienten futuros esfuerzos para cerrar aún más la brecha de escalado entre los modelos de visión y lenguaje.

English

Scaling up autoregressive models in vision has not proven as beneficial as in large language models. In this work, we investigate this scaling problem in the context of text-to-image generation, focusing on two critical factors: whether models use discrete or continuous tokens, and whether tokens are generated in a random or fixed raster order using BERT- or GPT-like transformer architectures. Our empirical results show that, while all models scale effectively in terms of validation loss, their evaluation performance -- measured by FID, GenEval score, and visual quality -- follows different trends. Models based on continuous tokens achieve significantly better visual quality than those using discrete tokens. Furthermore, the generation order and attention mechanisms significantly affect the GenEval score: random-order models achieve notably better GenEval scores compared to raster-order models. Inspired by these findings, we train Fluid, a random-order autoregressive model on continuous tokens. Fluid 10.5B model achieves a new state-of-the-art zero-shot FID of 6.16 on MS-COCO 30K, and 0.69 overall score on the GenEval benchmark. We hope our findings and results will encourage future efforts to further bridge the scaling gap between vision and language models.