Perdidos en el Espacio Latente: Un Estudio Empírico de Modelos de Difusión Latente para la Emulación de Física
Lost in Latent Space: An Empirical Study of Latent Diffusion Models for Physics Emulation
July 3, 2025
Autores: François Rozet, Ruben Ohana, Michael McCabe, Gilles Louppe, François Lanusse, Shirley Ho
cs.AI
Resumen
El elevado costo computacional de los modelos de difusión durante la inferencia dificulta su uso como emuladores físicos rápidos. En el contexto de la generación de imágenes y videos, este inconveniente computacional se ha abordado generando en el espacio latente de un autoencoder en lugar del espacio de píxeles. En este trabajo, investigamos si una estrategia similar puede aplicarse de manera efectiva a la emulación de sistemas dinámicos y a qué costo. Descubrimos que la precisión de la emulación en el espacio latente es sorprendentemente robusta ante una amplia gama de tasas de compresión (hasta 1000x). También demostramos que los emuladores basados en difusión son consistentemente más precisos que sus contrapartes no generativas y compensan la incertidumbre en sus predicciones con una mayor diversidad. Finalmente, cubrimos decisiones de diseño prácticas, desde arquitecturas hasta optimizadores, que consideramos críticas para entrenar emuladores en el espacio latente.
English
The steep computational cost of diffusion models at inference hinders their
use as fast physics emulators. In the context of image and video generation,
this computational drawback has been addressed by generating in the latent
space of an autoencoder instead of the pixel space. In this work, we
investigate whether a similar strategy can be effectively applied to the
emulation of dynamical systems and at what cost. We find that the accuracy of
latent-space emulation is surprisingly robust to a wide range of compression
rates (up to 1000x). We also show that diffusion-based emulators are
consistently more accurate than non-generative counterparts and compensate for
uncertainty in their predictions with greater diversity. Finally, we cover
practical design choices, spanning from architectures to optimizers, that we
found critical to train latent-space emulators.