SANA 1.5: Efficiënte schaling van trainingstijd en inferentietijd berekeningen in Lineaire Diffusie Transformer

SANA 1.5: Efficient Scaling of Training-Time and Inference-Time Compute in Linear Diffusion Transformer

January 30, 2025

Auteurs: Enze Xie, Junsong Chen, Yuyang Zhao, Jincheng Yu, Ligeng Zhu, Yujun Lin, Zhekai Zhang, Muyang Li, Junyu Chen, Han Cai, Bingchen Liu, Daquan Zhou, Song Han

cs.AI

Samenvatting

Dit artikel presenteert SANA-1.5, een lineaire Diffusion Transformer voor efficiënte schaling in tekst-naar-afbeelding generatie. Voortbouwend op SANA-1.0 introduceren we drie belangrijke innovaties: (1) Efficiënte Trainingschaling: Een diepte-groeiparadigma dat schaling mogelijk maakt van 1,6B naar 4,8B parameters met aanzienlijk verminderde rekenbronnen, gecombineerd met een geheugenefficiënte 8-bit optimizer. (2) Model Diepte Pruning: Een techniek voor blokbelanganalyse voor efficiënte modelcompressie naar willekeurige groottes met minimaal kwaliteitsverlies. (3) Schaling op Inference-tijd: Een herhaalde bemonsteringsstrategie die berekening inruilt voor modelcapaciteit, waardoor kleinere modellen de kwaliteit van grotere modellen kunnen evenaren op inference-tijd. Met behulp van deze strategieën behaalt SANA-1.5 een tekst-afbeelding aligneringsscore van 0.72 op GenEval, die verder verbeterd kan worden naar 0.80 door inference-schaling, waarmee een nieuwe SoTA op de GenEval benchmark wordt vastgesteld. Deze innovaties maken efficiënte model schaling mogelijk binnen verschillende rekentegoeden met behoud van hoge kwaliteit, waardoor hoogwaardige afbeeldingsgeneratie toegankelijker wordt.

English

This paper presents SANA-1.5, a linear Diffusion Transformer for efficient scaling in text-to-image generation. Building upon SANA-1.0, we introduce three key innovations: (1) Efficient Training Scaling: A depth-growth paradigm that enables scaling from 1.6B to 4.8B parameters with significantly reduced computational resources, combined with a memory-efficient 8-bit optimizer. (2) Model Depth Pruning: A block importance analysis technique for efficient model compression to arbitrary sizes with minimal quality loss. (3) Inference-time Scaling: A repeated sampling strategy that trades computation for model capacity, enabling smaller models to match larger model quality at inference time. Through these strategies, SANA-1.5 achieves a text-image alignment score of 0.72 on GenEval, which can be further improved to 0.80 through inference scaling, establishing a new SoTA on GenEval benchmark. These innovations enable efficient model scaling across different compute budgets while maintaining high quality, making high-quality image generation more accessible.