ReSWD: ReSTIR'd, nicht geschüttelt. Die Kombination von Reservoir-Sampling und Sliced-Wasserstein-Distanz zur Varianzreduktion
ReSWD: ReSTIR'd, not shaken. Combining Reservoir Sampling and Sliced Wasserstein Distance for Variance Reduction
October 1, 2025
papers.authors: Mark Boss, Andreas Engelhardt, Simon Donné, Varun Jampani
cs.AI
papers.abstract
Die Verteilungsanpassung ist zentral für viele Aufgaben in der Bildverarbeitung und Computergrafik, bei denen die weit verbreitete Wasserstein-Distanz für hochdimensionale Verteilungen zu rechenintensiv ist. Die Sliced Wasserstein Distance (SWD) bietet eine skalierbare Alternative, doch ihr Monte-Carlo-Schätzer leidet unter hoher Varianz, was zu verrauschten Gradienten und langsamer Konvergenz führt. Wir stellen die Reservoir SWD (ReSWD) vor, die Weighted Reservoir Sampling in die SWD integriert, um in Optimierungsschritten informative Projektionsrichtungen adaptiv zu behalten. Dies führt zu stabilen Gradienten bei gleichbleibender Unverzerrtheit. Experimente auf synthetischen Benchmarks und realen Anwendungen wie Farbkorrektur und Diffusionsführung zeigen, dass ReSWD durchweg die Standard-SWD und andere Varianzreduktions-Baselines übertrifft. Projektseite: https://reservoirswd.github.io/
English
Distribution matching is central to many vision and graphics tasks, where the
widely used Wasserstein distance is too costly to compute for high dimensional
distributions. The Sliced Wasserstein Distance (SWD) offers a scalable
alternative, yet its Monte Carlo estimator suffers from high variance,
resulting in noisy gradients and slow convergence. We introduce Reservoir SWD
(ReSWD), which integrates Weighted Reservoir Sampling into SWD to adaptively
retain informative projection directions in optimization steps, resulting in
stable gradients while remaining unbiased. Experiments on synthetic benchmarks
and real-world tasks such as color correction and diffusion guidance show that
ReSWD consistently outperforms standard SWD and other variance reduction
baselines. Project page: https://reservoirswd.github.io/