ArcFlow: Раскрытие потенциала двухэтапной генерации изображений из текста через высокоточную нелинейную дистилляцию потоков

ArcFlow: Unleashing 2-Step Text-to-Image Generation via High-Precision Non-Linear Flow Distillation

February 9, 2026

Авторы: Zihan Yang, Shuyuan Tu, Licheng Zhang, Qi Dai, Yu-Gang Jiang, Zuxuan Wu

cs.AI

Аннотация

Диффузионные модели достигли выдающегося качества генерации, однако их использование сопряжено со значительными вычислительными затратами на этапе вывода из-за зависимости от множества последовательных шагов шумоподавления, что стимулирует недавние попытки дистилляции этого процесса вывода в режим с малым числом шагов. Однако существующие методы дистилляции обычно аппроксимируют траекторию учителя с помощью линейных кратчайших путей, что затрудняет соответствие её постоянно меняющимся направлениям касательных по мере эволюции скоростей на различных временных шагах, что, в свою очередь, приводит к снижению качества. Для преодоления этого ограничения мы предлагаем ArcFlow — фреймворк дистилляции с малым числом шагов, который явно использует нелинейные траектории потока для аппроксимации предобученных траекторий учителя. Конкретно, ArcFlow параметризует поле скоростей, лежащее в основе траектории вывода, как смесь непрерывных процессов импульса. Это позволяет ArcFlow захватывать эволюцию скорости и экстраполировать согласованные скорости для формирования непрерывной нелинейной траектории в пределах каждого шага шумоподавления. Важно, что данная параметризация допускает аналитическое интегрирование этой нелинейной траектории, что позволяет обойти ошибки численной дискретизации и приводит к высокоточному приближению траектории учителя. Для обучения данной параметризации в генератор с малым числом шагов мы реализуем ArcFlow через дистилляцию траектории на предобученных моделях-учителях с использованием легковесных адаптеров. Эта стратегия обеспечивает быструю и стабильную сходимость при сохранении разнообразия и качества генерации. Построенный на крупномасштабных моделях (Qwen-Image-20B и FLUX.1-dev), ArcFlow дообучает менее 5% исходных параметров и достигает 40-кратного ускорения с 2 NFE по сравнению с исходными многошаговыми учителями без значительной потери качества. Эксперименты на бенчмарках демонстрируют эффективность ArcFlow как качественно, так и количественно.

English

Diffusion models have achieved remarkable generation quality, but they suffer from significant inference cost due to their reliance on multiple sequential denoising steps, motivating recent efforts to distill this inference process into a few-step regime. However, existing distillation methods typically approximate the teacher trajectory by using linear shortcuts, which makes it difficult to match its constantly changing tangent directions as velocities evolve across timesteps, thereby leading to quality degradation. To address this limitation, we propose ArcFlow, a few-step distillation framework that explicitly employs non-linear flow trajectories to approximate pre-trained teacher trajectories. Concretely, ArcFlow parameterizes the velocity field underlying the inference trajectory as a mixture of continuous momentum processes. This enables ArcFlow to capture velocity evolution and extrapolate coherent velocities to form a continuous non-linear trajectory within each denoising step. Importantly, this parameterization admits an analytical integration of this non-linear trajectory, which circumvents numerical discretization errors and results in high-precision approximation of the teacher trajectory. To train this parameterization into a few-step generator, we implement ArcFlow via trajectory distillation on pre-trained teacher models using lightweight adapters. This strategy ensures fast, stable convergence while preserving generative diversity and quality. Built on large-scale models (Qwen-Image-20B and FLUX.1-dev), ArcFlow only fine-tunes on less than 5% of original parameters and achieves a 40x speedup with 2 NFEs over the original multi-step teachers without significant quality degradation. Experiments on benchmarks show the effectiveness of ArcFlow both qualitatively and quantitatively.