ReSWD: ReSTIR'd, niet geschud. Het combineren van reservoir sampling en de gesneden Wasserstein-afstand voor variantiereductie
ReSWD: ReSTIR'd, not shaken. Combining Reservoir Sampling and Sliced Wasserstein Distance for Variance Reduction
October 1, 2025
Auteurs: Mark Boss, Andreas Engelhardt, Simon Donné, Varun Jampani
cs.AI
Samenvatting
Distributie-afstemming is essentieel voor veel visuele en grafische taken, waarbij de veelgebruikte Wasserstein-afstand te kostbaar is om te berekenen voor hoogdimensionale distributies. De Gesneden Wasserstein-afstand (SWD) biedt een schaalbare alternatief, maar de Monte Carlo-schatter ervan lijdt onder een hoge variantie, wat resulteert in ruisachtige gradiënten en trage convergentie. Wij introduceren Reservoir SWD (ReSWD), dat Gewogen Reservoir Sampling integreert in SWD om adaptief informatieve projectierichtingen te behouden tijdens optimalisatiestappen, wat resulteert in stabiele gradiënten terwijl het onbevooroordeeld blijft. Experimenten op synthetische benchmarks en real-world taken zoals kleurcorrectie en diffusiebegeleiding tonen aan dat ReSWD consequent beter presteert dan standaard SWD en andere variantiereductie-baselines. Projectpagina: https://reservoirswd.github.io/
English
Distribution matching is central to many vision and graphics tasks, where the
widely used Wasserstein distance is too costly to compute for high dimensional
distributions. The Sliced Wasserstein Distance (SWD) offers a scalable
alternative, yet its Monte Carlo estimator suffers from high variance,
resulting in noisy gradients and slow convergence. We introduce Reservoir SWD
(ReSWD), which integrates Weighted Reservoir Sampling into SWD to adaptively
retain informative projection directions in optimization steps, resulting in
stable gradients while remaining unbiased. Experiments on synthetic benchmarks
and real-world tasks such as color correction and diffusion guidance show that
ReSWD consistently outperforms standard SWD and other variance reduction
baselines. Project page: https://reservoirswd.github.io/