SimpleAR: Erweiterung der Grenzen autoregressiver visueller Generierung durch Pretraining, SFT und RL

SimpleAR: Pushing the Frontier of Autoregressive Visual Generation through Pretraining, SFT, and RL

April 15, 2025

Autoren: Junke Wang, Zhi Tian, Xun Wang, Xinyu Zhang, Weilin Huang, Zuxuan Wu, Yu-Gang Jiang

cs.AI

Zusammenfassung

Diese Arbeit stellt SimpleAR vor, ein einfaches autoregressives Framework zur visuellen Generierung ohne komplexe Architekturmodifikationen. Durch sorgfältige Untersuchung von Trainings- und Inferenzoptimierung zeigen wir, dass: 1) unser Modell mit nur 0,5 Milliarden Parametern Bilder in 1024x1024 Auflösung mit hoher Detailtreue erzeugen und wettbewerbsfähige Ergebnisse auf anspruchsvollen Text-zu-Bild-Benchmarks erzielen kann, z.B. 0,59 auf GenEval und 79,66 auf DPG; 2) sowohl überwachtes Feintuning (SFT) als auch Group Relative Policy Optimization (GRPO) zu signifikanten Verbesserungen in der Generierungsästhetik und Prompt-Ausrichtung führen können; und 3) die Zeit für SimpleAR, ein 1024x1024 Bild zu generieren, durch Inferenzbeschleunigungstechniken wie vLLM auf etwa 14 Sekunden reduziert werden kann. Durch die Veröffentlichung dieser Erkenntnisse und die Open-Source-Bereitstellung des Codes hoffen wir, das Potenzial der autoregressiven visuellen Generierung aufzuzeigen und mehr Beteiligung in diesem Forschungsbereich zu fördern. Der Code ist verfügbar unter https://github.com/wdrink/SimpleAR.

English

This work presents SimpleAR, a vanilla autoregressive visual generation framework without complex architecure modifications. Through careful exploration of training and inference optimization, we demonstrate that: 1) with only 0.5B parameters, our model can generate 1024x1024 resolution images with high fidelity, and achieve competitive results on challenging text-to-image benchmarks, e.g., 0.59 on GenEval and 79.66 on DPG; 2) both supervised fine-tuning (SFT) and Group Relative Policy Optimization (GRPO) training could lead to significant improvements on generation aesthectics and prompt alignment; and 3) when optimized with inference acceleraton techniques like vLLM, the time for SimpleAR to generate an 1024x1024 image could be reduced to around 14 seconds. By sharing these findings and open-sourcing the code, we hope to reveal the potential of autoregressive visual generation and encourage more participation in this research field. Code is available at https://github.com/wdrink/SimpleAR.