신경기호적 확산 모델

Neurosymbolic Diffusion Models

May 19, 2025

저자: Emile van Krieken, Pasquale Minervini, Edoardo Ponti, Antonio Vergari

cs.AI

초록

신경기호(Neurosymbolic, NeSy) 예측 모델은 시각적 추론과 같은 작업을 해결하기 위해 신경망 기반의 인식과 기호적 추론을 결합합니다. 그러나 표준 NeSy 예측 모델은 추출한 기호들 간의 조건부 독립성을 가정함으로써, 상호작용과 불확실성을 모델링하는 능력이 제한되어 과도하게 확신적인 예측과 분포 외 일반화 성능 저하를 초래하는 경우가 많습니다. 이러한 독립성 가정의 한계를 극복하기 위해, 우리는 이산 확산(discrete diffusion)을 사용하여 기호 간의 의존성을 모델링하는 새로운 클래스의 NeSy 예측 모델인 신경기호 확산 모델(NeSyDMs)을 제안합니다. 우리의 접근 방식은 확산 과정의 각 단계에서 NeSy 예측 모델의 독립성 가정을 재사용함으로써, 기호 간의 의존성과 불확실성 정량화를 포착하면서도 확장 가능한 학습을 가능하게 합니다. 고차원 시각적 경로 계획 및 규칙 기반 자율 주행을 포함한 합성 및 실세계 벤치마크에서 NeSyDMs는 NeSy 예측 모델 중 최첨단 정확도를 달성하며 강력한 보정 성능을 보여줍니다.

English

Neurosymbolic (NeSy) predictors combine neural perception with symbolic reasoning to solve tasks like visual reasoning. However, standard NeSy predictors assume conditional independence between the symbols they extract, thus limiting their ability to model interactions and uncertainty - often leading to overconfident predictions and poor out-of-distribution generalisation. To overcome the limitations of the independence assumption, we introduce neurosymbolic diffusion models (NeSyDMs), a new class of NeSy predictors that use discrete diffusion to model dependencies between symbols. Our approach reuses the independence assumption from NeSy predictors at each step of the diffusion process, enabling scalable learning while capturing symbol dependencies and uncertainty quantification. Across both synthetic and real-world benchmarks - including high-dimensional visual path planning and rule-based autonomous driving - NeSyDMs achieve state-of-the-art accuracy among NeSy predictors and demonstrate strong calibration.