Neurosymbolische Diffusionsmodelle

Neurosymbolic Diffusion Models

May 19, 2025

Autoren: Emile van Krieken, Pasquale Minervini, Edoardo Ponti, Antonio Vergari

cs.AI

Zusammenfassung

Neurosymbolische (NeSy) Prädiktoren kombinieren neuronale Wahrnehmung mit symbolischem Denken, um Aufgaben wie visuelles Schließen zu lösen. Standard-NeSy-Prädiktoren gehen jedoch von bedingter Unabhängigkeit zwischen den extrahierten Symbolen aus, was ihre Fähigkeit einschränkt, Interaktionen und Unsicherheiten zu modellieren – was oft zu übermäßig selbstsicheren Vorhersagen und schlechter Generalisierung außerhalb der Trainingsverteilung führt. Um die Grenzen der Unabhängigkeitsannahme zu überwinden, führen wir neurosymbolische Diffusionsmodelle (NeSyDMs) ein, eine neue Klasse von NeSy-Prädiktoren, die diskrete Diffusion nutzen, um Abhängigkeiten zwischen Symbolen zu modellieren. Unser Ansatz verwendet die Unabhängigkeitsannahme von NeSy-Prädiktoren in jedem Schritt des Diffusionsprozesses erneut, was skalierbares Lernen ermöglicht, während symbolische Abhängigkeiten und Unsicherheitsquantifizierung erfasst werden. Sowohl in synthetischen als auch in realen Benchmarks – einschließlich hochdimensionaler visueller Pfadplanung und regelbasierter autonomer Fahrzeugsteuerung – erreichen NeSyDMs die höchste Genauigkeit unter NeSy-Prädiktoren und zeigen eine starke Kalibrierung.

English

Neurosymbolic (NeSy) predictors combine neural perception with symbolic reasoning to solve tasks like visual reasoning. However, standard NeSy predictors assume conditional independence between the symbols they extract, thus limiting their ability to model interactions and uncertainty - often leading to overconfident predictions and poor out-of-distribution generalisation. To overcome the limitations of the independence assumption, we introduce neurosymbolic diffusion models (NeSyDMs), a new class of NeSy predictors that use discrete diffusion to model dependencies between symbols. Our approach reuses the independence assumption from NeSy predictors at each step of the diffusion process, enabling scalable learning while capturing symbol dependencies and uncertainty quantification. Across both synthetic and real-world benchmarks - including high-dimensional visual path planning and rule-based autonomous driving - NeSyDMs achieve state-of-the-art accuracy among NeSy predictors and demonstrate strong calibration.