SimpleAR: Расширение границ авторегрессивной генерации изображений через предварительное обучение, тонкую настройку и обучение с подкреплением

SimpleAR: Pushing the Frontier of Autoregressive Visual Generation through Pretraining, SFT, and RL

April 15, 2025

Авторы: Junke Wang, Zhi Tian, Xun Wang, Xinyu Zhang, Weilin Huang, Zuxuan Wu, Yu-Gang Jiang

cs.AI

Аннотация

В данной работе представлен SimpleAR — базовый фреймворк для авторегрессивной генерации изображений, не требующий сложных модификаций архитектуры. Благодаря тщательному исследованию оптимизации обучения и вывода, мы демонстрируем, что: 1) с использованием всего 0,5 миллиардов параметров наша модель способна генерировать изображения с разрешением 1024x1024 с высокой детализацией и достигает конкурентоспособных результатов на сложных бенчмарках для генерации изображений по тексту, например, 0,59 на GenEval и 79,66 на DPG; 2) как контролируемая тонкая настройка (SFT), так и обучение с использованием Group Relative Policy Optimization (GRPO) приводят к значительному улучшению эстетики генерации и соответствия запросам; и 3) при оптимизации с использованием техник ускорения вывода, таких как vLLM, время генерации изображения 1024x1024 с помощью SimpleAR может быть сокращено до примерно 14 секунд. Публикуя эти результаты и открывая исходный код, мы надеемся раскрыть потенциал авторегрессивной генерации изображений и стимулировать дальнейшее участие в этой области исследований. Код доступен по адресу https://github.com/wdrink/SimpleAR.

English

This work presents SimpleAR, a vanilla autoregressive visual generation framework without complex architecure modifications. Through careful exploration of training and inference optimization, we demonstrate that: 1) with only 0.5B parameters, our model can generate 1024x1024 resolution images with high fidelity, and achieve competitive results on challenging text-to-image benchmarks, e.g., 0.59 on GenEval and 79.66 on DPG; 2) both supervised fine-tuning (SFT) and Group Relative Policy Optimization (GRPO) training could lead to significant improvements on generation aesthectics and prompt alignment; and 3) when optimized with inference acceleraton techniques like vLLM, the time for SimpleAR to generate an 1024x1024 image could be reduced to around 14 seconds. By sharing these findings and open-sourcing the code, we hope to reveal the potential of autoregressive visual generation and encourage more participation in this research field. Code is available at https://github.com/wdrink/SimpleAR.