Modelos de Difusión Neurosimbólica

Neurosymbolic Diffusion Models

May 19, 2025

Autores: Emile van Krieken, Pasquale Minervini, Edoardo Ponti, Antonio Vergari

cs.AI

Resumen

Los predictores neurosimbólicos (NeSy) combinan percepción neuronal con razonamiento simbólico para resolver tareas como el razonamiento visual. Sin embargo, los predictores NeSy estándar asumen independencia condicional entre los símbolos que extraen, lo que limita su capacidad para modelar interacciones e incertidumbre, lo que a menudo conduce a predicciones demasiado confiadas y una pobre generalización fuera de distribución. Para superar las limitaciones del supuesto de independencia, introducimos los modelos de difusión neurosimbólicos (NeSyDMs), una nueva clase de predictores NeSy que utilizan difusión discreta para modelar dependencias entre símbolos. Nuestro enfoque reutiliza el supuesto de independencia de los predictores NeSy en cada paso del proceso de difusión, permitiendo un aprendizaje escalable mientras captura dependencias entre símbolos y cuantificación de incertidumbre. En diversos benchmarks, tanto sintéticos como del mundo real —incluyendo planificación de rutas visuales de alta dimensión y conducción autónoma basada en reglas—, los NeSyDMs logran una precisión de vanguardia entre los predictores NeSy y demuestran una fuerte calibración.

English

Neurosymbolic (NeSy) predictors combine neural perception with symbolic reasoning to solve tasks like visual reasoning. However, standard NeSy predictors assume conditional independence between the symbols they extract, thus limiting their ability to model interactions and uncertainty - often leading to overconfident predictions and poor out-of-distribution generalisation. To overcome the limitations of the independence assumption, we introduce neurosymbolic diffusion models (NeSyDMs), a new class of NeSy predictors that use discrete diffusion to model dependencies between symbols. Our approach reuses the independence assumption from NeSy predictors at each step of the diffusion process, enabling scalable learning while capturing symbol dependencies and uncertainty quantification. Across both synthetic and real-world benchmarks - including high-dimensional visual path planning and rule-based autonomous driving - NeSyDMs achieve state-of-the-art accuracy among NeSy predictors and demonstrate strong calibration.