Ausrichtung der latenten Geometrie für sphärisches Flow Matching in der Bildgenerierung

Zusammenfassung

Latentes Fluss-Matching zur Bilderzeugung transportiert üblicherweise Gaußsches Rauschen entlang linearer Pfade zu Variational-Autoencoder-Latents. Beide Endpunkte konzentrieren sich jedoch in dünnen sphärischen Schalen, und eine euklidische Sehne verlässt diese Schalen selbst dann, wenn eine Vorverarbeitung ihre Radien angleicht. Durch die Zerlegung jedes latenten Tokens in radiale und Winkelkomponenten zeigen wir mittels Komponententausch-Sonden, dass die dekodierten wahrnehmungsbezogenen und semantischen Inhalte überwiegend durch die Richtung getragen werden, während der Radius einen weitaus geringeren Beitrag leistet. Daher projizieren wir Daten-Latents auf einen festen Token-Radius, verwenden die radiale Projektion des Gaußschen Rauschens als sphärische Prior, stimmen den Decoder bei eingefrorenem Encoder fein ab und ersetzen die lineare Interpolation durch sphärische lineare Interpolation. Die resultierenden geodätischen Pfade bleiben zu jedem Zeitschritt auf der Sphäre, und ihre Geschwindigkeitsziele sind konstruktionsbedingt rein winkelmäßig. Bei vergleichbarem Training verbessert die Methode konsistent den klassenbedingten ImageNet-256 FID über verschiedene Bild-Tokenizer hinweg, lässt die Diffusionsarchitektur unverändert und erfordert weder einen Hilfs-Encoder noch ein Repräsentationsabgleichsziel.

English

Latent flow matching for image generation usually transports Gaussian noise to variational autoencoder latents along linear paths. Both endpoints, however, concentrate in thin spherical shells, and a Euclidean chord leaves those shells even when preprocessing aligns their radii. By decomposing each latent token into radial and angular components, we show through component-swap probes that decoded perceptual and semantic content is carried predominantly by direction, with radius contributing much less. We therefore project data latents onto a fixed token radius, use the radial projection of Gaussian noise as the spherical prior, finetune the decoder with the encoder frozen, and replace linear interpolation with spherical linear interpolation. The resulting geodesic paths stay on the sphere at every timestep, and their velocity targets are purely angular by construction. Under matched training, the method consistently improves class-conditional ImageNet-256 FID across different image tokenizers, leaves the diffusion architecture unchanged, and requires no auxiliary encoder or representation-alignment objective.