Neurosymbolische Diffusiemodellen

Neurosymbolic Diffusion Models

May 19, 2025

Auteurs: Emile van Krieken, Pasquale Minervini, Edoardo Ponti, Antonio Vergari

cs.AI

Samenvatting

Neurosymbolische (NeSy) voorspellers combineren neurale perceptie met symbolisch redeneren om taken zoals visueel redeneren op te lossen. Standaard NeSy-voorspellers gaan echter uit van conditionele onafhankelijkheid tussen de symbolen die ze extraheren, wat hun vermogen beperkt om interacties en onzekerheid te modelleren – wat vaak leidt tot overmoedige voorspellingen en slechte generalisatie buiten de verdeling. Om de beperkingen van de onafhankelijkheidsaanname te overwinnen, introduceren we neurosymbolische diffusiemodellen (NeSyDMs), een nieuwe klasse van NeSy-voorspellers die discrete diffusie gebruiken om afhankelijkheden tussen symbolen te modelleren. Onze aanpak hergebruikt de onafhankelijkheidsaanname van NeSy-voorspellers bij elke stap van het diffusieproces, waardoor schaalbare leerprocessen mogelijk zijn terwijl symbolische afhankelijkheden en onzekerheidskwantificering worden vastgelegd. Op zowel synthetische als real-world benchmarks – inclusief hoogdimensionale visuele padplanning en regelgebaseerd autonoom rijden – behalen NeSyDMs state-of-the-art nauwkeurigheid onder NeSy-voorspellers en tonen ze sterke kalibratie aan.

English

Neurosymbolic (NeSy) predictors combine neural perception with symbolic reasoning to solve tasks like visual reasoning. However, standard NeSy predictors assume conditional independence between the symbols they extract, thus limiting their ability to model interactions and uncertainty - often leading to overconfident predictions and poor out-of-distribution generalisation. To overcome the limitations of the independence assumption, we introduce neurosymbolic diffusion models (NeSyDMs), a new class of NeSy predictors that use discrete diffusion to model dependencies between symbols. Our approach reuses the independence assumption from NeSy predictors at each step of the diffusion process, enabling scalable learning while capturing symbol dependencies and uncertainty quantification. Across both synthetic and real-world benchmarks - including high-dimensional visual path planning and rule-based autonomous driving - NeSyDMs achieve state-of-the-art accuracy among NeSy predictors and demonstrate strong calibration.