Kombination von Flow Matching und Transformern zur effizienten Lösung bayesscher inverser Probleme

Combining Flow Matching and Transformers for Efficient Solution of Bayesian Inverse Problems

March 3, 2025

Autoren: Daniil Sherki, Ivan Oseledets, Ekaterina Muravleva

cs.AI

Zusammenfassung

Die effiziente Lösung bayesscher inverser Probleme bleibt eine bedeutende Herausforderung aufgrund der Komplexität posteriorer Verteilungen und der rechenintensiven Natur traditioneller Sampling-Methoden. Gegeben eine Reihe von Beobachtungen und das Vorwärtsmodell, möchten wir die Verteilung der Parameter, bedingt auf die beobachteten experimentellen Daten, rekonstruieren. Wir zeigen, dass durch die Kombination von Conditional Flow Matching (CFM) mit einer transformer-basierten Architektur effizient aus solchen Verteilungen, bedingt auf eine variable Anzahl von Beobachtungen, gesampelt werden kann.

English

Solving Bayesian inverse problems efficiently remains a significant challenge due to the complexity of posterior distributions and the computational cost of traditional sampling methods. Given a series of observations and the forward model, we want to recover the distribution of the parameters, conditioned on observed experimental data. We show, that combining Conditional Flow Mathching (CFM) with transformer-based architecture, we can efficiently sample from such kind of distribution, conditioned on variable number of observations.