Жидкость: Масштабирование авторегрессивных генеративных моделей текста-изображения с непрерывными токенами

Fluid: Scaling Autoregressive Text-to-image Generative Models with Continuous Tokens

October 17, 2024

Авторы: Lijie Fan, Tianhong Li, Siyang Qin, Yuanzhen Li, Chen Sun, Michael Rubinstein, Deqing Sun, Kaiming He, Yonglong Tian

cs.AI

Аннотация

Масштабирование авторегрессионных моделей в области зрения не оказалось таким же выгодным, как в случае крупных языковых моделей. В данной работе мы исследуем эту проблему масштабирования в контексте генерации текста в изображения, сосредотачиваясь на двух критических факторах: используют ли модели дискретные или непрерывные токены, и генерируются ли токены в случайном или фиксированном растре с использованием трансформерных архитектур BERT или GPT-подобных. Наши эмпирические результаты показывают, что, хотя все модели эффективно масштабируются с точки зрения потерь на валидации, их оценочная производительность - измеряемая по FID, оценке GenEval и качеству изображения - следует различным тенденциям. Модели на основе непрерывных токенов достигают значительно лучшего качества изображения, чем те, которые используют дискретные токены. Более того, порядок генерации и механизмы внимания значительно влияют на оценку GenEval: модели со случайным порядком достигают заметно лучших оценок GenEval по сравнению с моделями в растре. Вдохновленные этими результатами, мы обучаем модель Fluid с порядком генерации в случайном порядке на непрерывных токенах. Модель Fluid 10.5B достигает нового рекорда нулевой оценки FID в 6.16 на MS-COCO 30K и общей оценки 0.69 на бенчмарке GenEval. Мы надеемся, что наши выводы и результаты будут стимулировать будущие усилия по преодолению разрыва в масштабировании между моделями зрения и языка.

English

Scaling up autoregressive models in vision has not proven as beneficial as in large language models. In this work, we investigate this scaling problem in the context of text-to-image generation, focusing on two critical factors: whether models use discrete or continuous tokens, and whether tokens are generated in a random or fixed raster order using BERT- or GPT-like transformer architectures. Our empirical results show that, while all models scale effectively in terms of validation loss, their evaluation performance -- measured by FID, GenEval score, and visual quality -- follows different trends. Models based on continuous tokens achieve significantly better visual quality than those using discrete tokens. Furthermore, the generation order and attention mechanisms significantly affect the GenEval score: random-order models achieve notably better GenEval scores compared to raster-order models. Inspired by these findings, we train Fluid, a random-order autoregressive model on continuous tokens. Fluid 10.5B model achieves a new state-of-the-art zero-shot FID of 6.16 on MS-COCO 30K, and 0.69 overall score on the GenEval benchmark. We hope our findings and results will encourage future efforts to further bridge the scaling gap between vision and language models.