SimpleAR: Expandindo as Fronteiras da Geração Visual Autoregressiva por meio de Pré-treinamento, Ajuste Fino Supervisionado e Aprendizado por Reforço

SimpleAR: Pushing the Frontier of Autoregressive Visual Generation through Pretraining, SFT, and RL

April 15, 2025

Autores: Junke Wang, Zhi Tian, Xun Wang, Xinyu Zhang, Weilin Huang, Zuxuan Wu, Yu-Gang Jiang

cs.AI

Resumo

Este trabalho apresenta o SimpleAR, uma estrutura básica de geração visual autoregressiva sem modificações complexas na arquitetura. Através de uma exploração cuidadosa da otimização de treinamento e inferência, demonstramos que: 1) com apenas 0,5 bilhão de parâmetros, nosso modelo é capaz de gerar imagens com resolução de 1024x1024 com alta fidelidade e alcançar resultados competitivos em benchmarks desafiadores de texto para imagem, por exemplo, 0,59 no GenEval e 79,66 no DPG; 2) tanto o ajuste fino supervisionado (SFT) quanto o treinamento com Otimização de Política Relativa em Grupo (GRPO) podem levar a melhorias significativas na estética da geração e no alinhamento com o prompt; e 3) quando otimizado com técnicas de aceleração de inferência como vLLM, o tempo para o SimpleAR gerar uma imagem de 1024x1024 pode ser reduzido para cerca de 14 segundos. Ao compartilhar essas descobertas e disponibilizar o código em código aberto, esperamos revelar o potencial da geração visual autoregressiva e encorajar uma maior participação neste campo de pesquisa. O código está disponível em https://github.com/wdrink/SimpleAR.

English

This work presents SimpleAR, a vanilla autoregressive visual generation framework without complex architecure modifications. Through careful exploration of training and inference optimization, we demonstrate that: 1) with only 0.5B parameters, our model can generate 1024x1024 resolution images with high fidelity, and achieve competitive results on challenging text-to-image benchmarks, e.g., 0.59 on GenEval and 79.66 on DPG; 2) both supervised fine-tuning (SFT) and Group Relative Policy Optimization (GRPO) training could lead to significant improvements on generation aesthectics and prompt alignment; and 3) when optimized with inference acceleraton techniques like vLLM, the time for SimpleAR to generate an 1024x1024 image could be reduced to around 14 seconds. By sharing these findings and open-sourcing the code, we hope to reveal the potential of autoregressive visual generation and encourage more participation in this research field. Code is available at https://github.com/wdrink/SimpleAR.