Неявная диффузия: эффективная оптимизация через стохастическую выборку

Implicit Diffusion: Efficient Optimization through Stochastic Sampling

February 8, 2024

Авторы: Pierre Marion, Anna Korba, Peter Bartlett, Mathieu Blondel, Valentin De Bortoli, Arnaud Doucet, Felipe Llinares-López, Courtney Paquette, Quentin Berthet

cs.AI

Аннотация

Мы представляем новый алгоритм для оптимизации распределений, заданных неявно через параметризованные стохастические диффузии. Это позволяет нам изменять результирующее распределение процессов выборки путем оптимизации их параметров. Мы вводим общий фреймворк для оптимизации первого порядка этих процессов, который выполняет совместно, в одном цикле, шаги оптимизации и выборки. Этот подход вдохновлен последними достижениями в области двухуровневой оптимизации и автоматического неявного дифференцирования, используя представление выборки как оптимизации в пространстве вероятностных распределений. Мы предоставляем теоретические гарантии производительности нашего метода, а также экспериментальные результаты, демонстрирующие его эффективность в реальных условиях.

English

We present a new algorithm to optimize distributions defined implicitly by parameterized stochastic diffusions. Doing so allows us to modify the outcome distribution of sampling processes by optimizing over their parameters. We introduce a general framework for first-order optimization of these processes, that performs jointly, in a single loop, optimization and sampling steps. This approach is inspired by recent advances in bilevel optimization and automatic implicit differentiation, leveraging the point of view of sampling as optimization over the space of probability distributions. We provide theoretical guarantees on the performance of our method, as well as experimental results demonstrating its effectiveness in real-world settings.