SimpleAR : Repousser les frontières de la génération visuelle autorégressive grâce au pré-entraînement, au fine-tuning supervisé et à l'apprentissage par renforcement

SimpleAR: Pushing the Frontier of Autoregressive Visual Generation through Pretraining, SFT, and RL

April 15, 2025

Auteurs: Junke Wang, Zhi Tian, Xun Wang, Xinyu Zhang, Weilin Huang, Zuxuan Wu, Yu-Gang Jiang

cs.AI

Résumé

Ce travail présente SimpleAR, un cadre de génération visuelle autorégressive simple sans modifications architecturales complexes. Grâce à une exploration minutieuse de l'optimisation de l'entraînement et de l'inférence, nous démontrons que : 1) avec seulement 0,5 milliard de paramètres, notre modèle peut générer des images en résolution 1024x1024 avec une haute fidélité, et obtenir des résultats compétitifs sur des benchmarks exigeants de génération texte-image, par exemple 0,59 sur GenEval et 79,66 sur DPG ; 2) le fine-tuning supervisé (SFT) et l'optimisation de politique relative par groupe (GRPO) peuvent tous deux conduire à des améliorations significatives en termes d'esthétique de génération et d'alignement avec les prompts ; et 3) lorsqu'il est optimisé avec des techniques d'accélération d'inférence comme vLLM, le temps nécessaire à SimpleAR pour générer une image 1024x1024 peut être réduit à environ 14 secondes. En partageant ces découvertes et en ouvrant le code source, nous espérons révéler le potentiel de la génération visuelle autorégressive et encourager une plus grande participation dans ce domaine de recherche. Le code est disponible à l'adresse https://github.com/wdrink/SimpleAR.

English

This work presents SimpleAR, a vanilla autoregressive visual generation framework without complex architecure modifications. Through careful exploration of training and inference optimization, we demonstrate that: 1) with only 0.5B parameters, our model can generate 1024x1024 resolution images with high fidelity, and achieve competitive results on challenging text-to-image benchmarks, e.g., 0.59 on GenEval and 79.66 on DPG; 2) both supervised fine-tuning (SFT) and Group Relative Policy Optimization (GRPO) training could lead to significant improvements on generation aesthectics and prompt alignment; and 3) when optimized with inference acceleraton techniques like vLLM, the time for SimpleAR to generate an 1024x1024 image could be reduced to around 14 seconds. By sharing these findings and open-sourcing the code, we hope to reveal the potential of autoregressive visual generation and encourage more participation in this research field. Code is available at https://github.com/wdrink/SimpleAR.