Нейросимволические диффузионные модели

Neurosymbolic Diffusion Models

May 19, 2025

Авторы: Emile van Krieken, Pasquale Minervini, Edoardo Ponti, Antonio Vergari

cs.AI

Аннотация

Нейросимволические (NeSy) предсказатели объединяют нейронное восприятие с символическим рассуждением для решения задач, таких как визуальное рассуждение. Однако стандартные NeSy-предсказатели предполагают условную независимость между извлекаемыми символами, что ограничивает их способность моделировать взаимодействия и неопределённость, часто приводя к излишне уверенным предсказаниям и слабой обобщаемости на данные, выходящие за пределы распределения. Чтобы преодолеть ограничения предположения о независимости, мы представляем нейросимволические диффузионные модели (NeSyDMs) — новый класс NeSy-предсказателей, использующих дискретную диффузию для моделирования зависимостей между символами. Наш подход повторно использует предположение о независимости из NeSy-предсказателей на каждом шаге диффузионного процесса, что позволяет масштабируемое обучение при сохранении учёта зависимостей между символами и количественной оценки неопределённости. На синтетических и реальных тестах, включая высокоразмерное визуальное планирование маршрутов и основанное на правилах автономное вождение, NeSyDMs достигают наивысшей точности среди NeSy-предсказателей и демонстрируют сильную калибровку.

English

Neurosymbolic (NeSy) predictors combine neural perception with symbolic reasoning to solve tasks like visual reasoning. However, standard NeSy predictors assume conditional independence between the symbols they extract, thus limiting their ability to model interactions and uncertainty - often leading to overconfident predictions and poor out-of-distribution generalisation. To overcome the limitations of the independence assumption, we introduce neurosymbolic diffusion models (NeSyDMs), a new class of NeSy predictors that use discrete diffusion to model dependencies between symbols. Our approach reuses the independence assumption from NeSy predictors at each step of the diffusion process, enabling scalable learning while capturing symbol dependencies and uncertainty quantification. Across both synthetic and real-world benchmarks - including high-dimensional visual path planning and rule-based autonomous driving - NeSyDMs achieve state-of-the-art accuracy among NeSy predictors and demonstrate strong calibration.