Modelli di Diffusione Neurosimbolici

Neurosymbolic Diffusion Models

May 19, 2025

Autori: Emile van Krieken, Pasquale Minervini, Edoardo Ponti, Antonio Vergari

cs.AI

Abstract

I predittori neurosimbolici (NeSy) combinano la percezione neurale con il ragionamento simbolico per risolvere compiti come il ragionamento visivo. Tuttavia, i predittori NeSy standard presuppongono l'indipendenza condizionale tra i simboli che estraggono, limitando così la loro capacità di modellare interazioni e incertezza - spesso portando a previsioni eccessivamente sicure e a una scarsa generalizzazione fuori distribuzione. Per superare i limiti dell'assunzione di indipendenza, introduciamo i modelli di diffusione neurosimbolici (NeSyDMs), una nuova classe di predittori NeSy che utilizzano la diffusione discreta per modellare le dipendenze tra i simboli. Il nostro approccio riutilizza l'assunzione di indipendenza dei predittori NeSy in ogni fase del processo di diffusione, consentendo un apprendimento scalabile mentre cattura le dipendenze tra simboli e la quantificazione dell'incertezza. Su benchmark sia sintetici che del mondo reale - inclusi la pianificazione di percorsi visivi ad alta dimensionalità e la guida autonoma basata su regole - i NeSyDMs raggiungono un'accuratezza all'avanguardia tra i predittori NeSy e dimostrano una forte calibrazione.

English

Neurosymbolic (NeSy) predictors combine neural perception with symbolic reasoning to solve tasks like visual reasoning. However, standard NeSy predictors assume conditional independence between the symbols they extract, thus limiting their ability to model interactions and uncertainty - often leading to overconfident predictions and poor out-of-distribution generalisation. To overcome the limitations of the independence assumption, we introduce neurosymbolic diffusion models (NeSyDMs), a new class of NeSy predictors that use discrete diffusion to model dependencies between symbols. Our approach reuses the independence assumption from NeSy predictors at each step of the diffusion process, enabling scalable learning while capturing symbol dependencies and uncertainty quantification. Across both synthetic and real-world benchmarks - including high-dimensional visual path planning and rule-based autonomous driving - NeSyDMs achieve state-of-the-art accuracy among NeSy predictors and demonstrate strong calibration.