Combiner Flow Matching et Transformers pour une résolution efficace des problèmes inverses bayésiens

Combining Flow Matching and Transformers for Efficient Solution of Bayesian Inverse Problems

March 3, 2025

Auteurs: Daniil Sherki, Ivan Oseledets, Ekaterina Muravleva

cs.AI

Résumé

La résolution efficace des problèmes inverses bayésiens reste un défi majeur en raison de la complexité des distributions a posteriori et du coût computationnel des méthodes d'échantillonnage traditionnelles. Étant donné une série d'observations et le modèle direct, nous souhaitons retrouver la distribution des paramètres, conditionnée par les données expérimentales observées. Nous démontrons qu'en combinant le Conditional Flow Matching (CFM) avec une architecture basée sur les transformers, nous pouvons échantillonner efficacement à partir de ce type de distribution, conditionnée par un nombre variable d'observations.

English

Solving Bayesian inverse problems efficiently remains a significant challenge due to the complexity of posterior distributions and the computational cost of traditional sampling methods. Given a series of observations and the forward model, we want to recover the distribution of the parameters, conditioned on observed experimental data. We show, that combining Conditional Flow Mathching (CFM) with transformer-based architecture, we can efficiently sample from such kind of distribution, conditioned on variable number of observations.