ニューロシンボリック拡散モデル

Neurosymbolic Diffusion Models

May 19, 2025

著者: Emile van Krieken, Pasquale Minervini, Edoardo Ponti, Antonio Vergari

cs.AI

要旨

ニューロシンボリック（NeSy）予測モデルは、神経的な知覚とシンボリックな推論を組み合わせて、視覚的推論などのタスクを解決します。しかし、標準的なNeSy予測モデルは、抽出するシンボル間の条件付き独立性を仮定しており、相互作用や不確実性をモデル化する能力が制限されるため、過信的な予測や分布外汎化の低下を引き起こすことがよくあります。この独立性の仮定の限界を克服するために、我々はニューロシンボリック拡散モデル（NeSyDMs）を導入します。これは、シンボル間の依存関係をモデル化するために離散拡散を使用する新しいクラスのNeSy予測モデルです。我々のアプローチは、拡散プロセスの各ステップでNeSy予測モデルからの独立性の仮定を再利用し、スケーラブルな学習を可能にしながら、シンボルの依存関係と不確実性の定量化を捉えます。高次元の視覚的経路計画やルールベースの自動運転を含む合成および実世界のベンチマークにおいて、NeSyDMsはNeSy予測モデルの中で最先端の精度を達成し、強力なキャリブレーションを示しています。

English

Neurosymbolic (NeSy) predictors combine neural perception with symbolic reasoning to solve tasks like visual reasoning. However, standard NeSy predictors assume conditional independence between the symbols they extract, thus limiting their ability to model interactions and uncertainty - often leading to overconfident predictions and poor out-of-distribution generalisation. To overcome the limitations of the independence assumption, we introduce neurosymbolic diffusion models (NeSyDMs), a new class of NeSy predictors that use discrete diffusion to model dependencies between symbols. Our approach reuses the independence assumption from NeSy predictors at each step of the diffusion process, enabling scalable learning while capturing symbol dependencies and uncertainty quantification. Across both synthetic and real-world benchmarks - including high-dimensional visual path planning and rule-based autonomous driving - NeSyDMs achieve state-of-the-art accuracy among NeSy predictors and demonstrate strong calibration.