Modelos de Difusão Neurosimbólicos

Neurosymbolic Diffusion Models

May 19, 2025

Autores: Emile van Krieken, Pasquale Minervini, Edoardo Ponti, Antonio Vergari

cs.AI

Resumo

Os preditores neurosimbólicos (NeSy) combinam percepção neural com raciocínio simbólico para resolver tarefas como raciocínio visual. No entanto, os preditores NeSy padrão assumem independência condicional entre os símbolos que extraem, limitando assim sua capacidade de modelar interações e incertezas - o que frequentemente leva a previsões excessivamente confiantes e a uma generalização deficiente fora da distribuição. Para superar as limitações da suposição de independência, introduzimos os modelos de difusão neurosimbólicos (NeSyDMs), uma nova classe de preditores NeSy que utilizam difusão discreta para modelar dependências entre símbolos. Nossa abordagem reutiliza a suposição de independência dos preditores NeSy em cada etapa do processo de difusão, permitindo aprendizado escalável enquanto captura dependências simbólicas e quantificação de incertezas. Em benchmarks tanto sintéticos quanto do mundo real - incluindo planejamento de trajetória visual de alta dimensionalidade e direção autônoma baseada em regras - os NeSyDMs alcançam precisão de ponta entre os preditores NeSy e demonstram forte calibração.

English

Neurosymbolic (NeSy) predictors combine neural perception with symbolic reasoning to solve tasks like visual reasoning. However, standard NeSy predictors assume conditional independence between the symbols they extract, thus limiting their ability to model interactions and uncertainty - often leading to overconfident predictions and poor out-of-distribution generalisation. To overcome the limitations of the independence assumption, we introduce neurosymbolic diffusion models (NeSyDMs), a new class of NeSy predictors that use discrete diffusion to model dependencies between symbols. Our approach reuses the independence assumption from NeSy predictors at each step of the diffusion process, enabling scalable learning while capturing symbol dependencies and uncertainty quantification. Across both synthetic and real-world benchmarks - including high-dimensional visual path planning and rule-based autonomous driving - NeSyDMs achieve state-of-the-art accuracy among NeSy predictors and demonstrate strong calibration.