Flüssig: Skalierung von autoregressiven Text-zu-Bild-generierenden Modellen mit kontinuierlichen Tokens

Fluid: Scaling Autoregressive Text-to-image Generative Models with Continuous Tokens

October 17, 2024

Autoren: Lijie Fan, Tianhong Li, Siyang Qin, Yuanzhen Li, Chen Sun, Michael Rubinstein, Deqing Sun, Kaiming He, Yonglong Tian

cs.AI

Zusammenfassung

Das Skalieren von autoregressiven Modellen in der Bildverarbeitung hat sich nicht als so vorteilhaft erwiesen wie bei großen Sprachmodellen. In dieser Arbeit untersuchen wir dieses Skalierungsproblem im Kontext der Text-zu-Bild-Erzeugung und konzentrieren uns auf zwei entscheidende Faktoren: ob Modelle diskrete oder kontinuierliche Tokens verwenden und ob Tokens in einer zufälligen oder festen Rasterreihenfolge unter Verwendung von BERT- oder GPT-ähnlichen Transformer-Architekturen generiert werden. Unsere empirischen Ergebnisse zeigen, dass alle Modelle zwar effektiv hinsichtlich Validierungsverlust skalieren, ihre Evaluationsleistung - gemessen an FID, GenEval-Score und visueller Qualität - unterschiedlichen Trends folgt. Modelle, die auf kontinuierlichen Tokens basieren, erzielen signifikant bessere visuelle Qualität als solche, die diskrete Tokens verwenden. Darüber hinaus beeinflussen die Generierungsreihenfolge und Aufmerksamkeitsmechanismen signifikant den GenEval-Score: Modelle mit zufälliger Reihenfolge erzielen bemerkenswert bessere GenEval-Scores im Vergleich zu Rasterreihenfolgemodellen. Inspiriert von diesen Erkenntnissen trainieren wir Fluid, ein autoregressives Modell mit zufälliger Reihenfolge auf kontinuierlichen Tokens. Das Fluid 10.5B-Modell erreicht einen neuen state-of-the-art Zero-Shot FID von 6.16 auf MS-COCO 30K und eine Gesamtpunktzahl von 0.69 im GenEval-Benchmark. Wir hoffen, dass unsere Erkenntnisse und Ergebnisse zukünftige Bemühungen ermutigen werden, die Skalierungslücke zwischen Bild- und Sprachmodellen weiter zu überbrücken.

English

Scaling up autoregressive models in vision has not proven as beneficial as in large language models. In this work, we investigate this scaling problem in the context of text-to-image generation, focusing on two critical factors: whether models use discrete or continuous tokens, and whether tokens are generated in a random or fixed raster order using BERT- or GPT-like transformer architectures. Our empirical results show that, while all models scale effectively in terms of validation loss, their evaluation performance -- measured by FID, GenEval score, and visual quality -- follows different trends. Models based on continuous tokens achieve significantly better visual quality than those using discrete tokens. Furthermore, the generation order and attention mechanisms significantly affect the GenEval score: random-order models achieve notably better GenEval scores compared to raster-order models. Inspired by these findings, we train Fluid, a random-order autoregressive model on continuous tokens. Fluid 10.5B model achieves a new state-of-the-art zero-shot FID of 6.16 on MS-COCO 30K, and 0.69 overall score on the GenEval benchmark. We hope our findings and results will encourage future efforts to further bridge the scaling gap between vision and language models.