ReSWD: ReSTIR'd, не взболтанный. Сочетание резервуарной выборки и расстояния Слис-Вассерштейна для снижения дисперсии
ReSWD: ReSTIR'd, not shaken. Combining Reservoir Sampling and Sliced Wasserstein Distance for Variance Reduction
October 1, 2025
Авторы: Mark Boss, Andreas Engelhardt, Simon Donné, Varun Jampani
cs.AI
Аннотация
Сопоставление распределений играет ключевую роль во многих задачах компьютерного зрения и графики, где широко используемое расстояние Вассерштейна оказывается слишком затратным для вычисления в случае многомерных распределений. Срезочное расстояние Вассерштейна (Sliced Wasserstein Distance, SWD) предлагает масштабируемую альтернативу, однако его оценка методом Монте-Карло страдает от высокой дисперсии, что приводит к зашумленным градиентам и медленной сходимости. Мы представляем Reservoir SWD (ReSWD), которое интегрирует взвешенный метод резервуарной выборки в SWD для адаптивного сохранения информативных направлений проекции на этапах оптимизации, что обеспечивает стабильные градиенты при сохранении несмещенности. Эксперименты на синтетических тестах и реальных задачах, таких как коррекция цвета и управление диффузией, показывают, что ReSWD стабильно превосходит стандартное SWD и другие базовые методы снижения дисперсии. Страница проекта: https://reservoirswd.github.io/
English
Distribution matching is central to many vision and graphics tasks, where the
widely used Wasserstein distance is too costly to compute for high dimensional
distributions. The Sliced Wasserstein Distance (SWD) offers a scalable
alternative, yet its Monte Carlo estimator suffers from high variance,
resulting in noisy gradients and slow convergence. We introduce Reservoir SWD
(ReSWD), which integrates Weighted Reservoir Sampling into SWD to adaptively
retain informative projection directions in optimization steps, resulting in
stable gradients while remaining unbiased. Experiments on synthetic benchmarks
and real-world tasks such as color correction and diffusion guidance show that
ReSWD consistently outperforms standard SWD and other variance reduction
baselines. Project page: https://reservoirswd.github.io/