Emparejamiento de Distribución de Representaciones para Generación Visual en un Solo Paso

Resumen

Elucidamos el espacio de diseño del Emparejamiento de Distribuciones de Representación (RDM, por sus siglas en inglés), nuestro nombre para el paradigma que entrena un generador de imágenes de un solo paso al emparejar las distribuciones de características generadas y de referencia bajo codificadores preentrenados congelados. Identificamos dos ejes de diseño: cómo se comparan las distribuciones y las representaciones en las que se comparan, y los estudios controlados a lo largo de estos ejes arrojan tres hallazgos. Primero, el MMD clásico, que no podía entrenar generadores convincentes hace una década, se convierte en un objetivo fuerte y escalable una vez estimado correctamente. Segundo, el lote generado es entonces la variable operativa, con un óptimo por encima de 2048, muy por encima de los tamaños de lote habituales. Tercero, cualquier representación única puede ser manipulada, llevándola por debajo de la puntuación real mientras las imágenes siguen siendo visiblemente falsas, por lo que emparejamos contra una batería equilibrada de codificadores y evaluamos con SW_r14, una distancia de Sliced-Wasserstein sobre 14 codificadores que es independiente de la pérdida de entrenamiento y resiste la manipulación. Combinar las opciones preferidas produce un RDM mejorado (iRDM): establece el estado del arte de un solo paso en ImageNet con un SW_r14 de 1.30, corroborado por PickScore, una proxy de preferencia humana que nuestro objetivo nunca optimiza, el cual lo prefiere sobre el mejor generador de un solo paso anterior en el 71.2% de las muestras emparejadas. La misma receta posentrena el FLUX.2 de cuatro pasos [klein] en un generador de un solo paso, superando la versión de cuatro pasos en GenEval, de 0.826 a 0.794, y en PickScore, de 22.76 a 22.58, en 90 horas-GPU H200. Página del proyecto: https://alan-lanfeng.github.io/rdm/.

English

We elucidate the design space of Representation Distribution Matching (RDM), our name for the paradigm that trains a one-step image generator by matching generated and reference feature distributions under frozen pretrained encoders. We identify two design axes, how the distributions are compared and the representations they are compared in, and controlled studies along them yield three findings. First, the classical MMD, which could not train convincing generators a decade ago, becomes a strong and scalable objective once estimated right. Second, the generated batch is then the operative variable, with an optimum above 2048, far beyond customary batch sizes. Third, any single representation can be gamed, driven below the real score while images stay visibly fake, so we match against a balanced battery of encoders and evaluate with SW_r14, a Sliced-Wasserstein distance over 14 encoders that is independent of the training loss and resists gaming. Combining the preferred choices yields improved RDM (iRDM): it sets the one-step state of the art on ImageNet at SW_r14 1.30, corroborated by PickScore, a human-preference proxy our objective never optimizes, which prefers it over the prior best one-step generator on 71.2% of matched samples. The same recipe post-trains the four-step FLUX.2 [klein] into a one-step generator, surpassing the four-step version on GenEval, 0.826 to 0.794, and on PickScore, 22.76 to 22.58, in 90 H200 GPU-hours. Project page: https://alan-lanfeng.github.io/rdm/.