生成的再帰推論

要旨

将来のニューラル推論システムは、どのように拡張計算を実装すべきでしょうか。再帰的推論モデル（RRMs）は、自己回帰的な系列拡張に代わる有望な手法として、共有遷移関数を用いた反復的な潜在状態の洗練を実行します。しかし、既存のRRMsはほとんどが決定論的であり、単一の潜在軌跡に従い、単一の予測に収束します。本稿では、再帰的潜在推論を確率的なマルチ軌跡計算に変換する枠組みである、生成型再帰的推論モデル（GRAM）を提案します。GRAMは推論を確率的潜在軌跡としてモデル化し、複数の仮説、代替解戦略、および再帰的深度と並列軌跡サンプリングの両方による推論時スケーリングを可能にします。これにより、p_θ(y mid x)を介した条件付き推論と、入力が固定または存在しない場合のp_θ(x)を介した無条件生成をサポートする潜在変数生成モデルが実現されます。償却変分推論で訓練されたGRAMは、構造化推論および複数解の制約充足タスクにおいて決定論的リカレント・再帰的ベースラインを上回り、無条件生成能力も示します。https://ahn-ml.github.io/gram-website

English

How should future neural reasoning systems implement extended computation? Recursive Reasoning Models (RRMs) offer a promising alternative to autoregressive sequence extension by performing iterative latent-state refinement with shared transition functions. Yet existing RRMs are largely deterministic, following a single latent trajectory and converging to a single prediction. We introduce Generative Recursive reAsoning Models (GRAM), a framework that turns recursive latent reasoning into probabilistic multi-trajectory computation. GRAM models reasoning as a stochastic latent trajectory, enabling multiple hypotheses, alternative solution strategies, and inference-time scaling through both recursive depth and parallel trajectory sampling. This yields a latent-variable generative model supporting conditional reasoning via p_θ(y mid x) and, with fixed or absent inputs, unconditional generation via p_θ(x). Trained with amortized variational inference, GRAM improves over deterministic recurrent and recursive baselines on structured reasoning and multi-solution constraint satisfaction tasks, while demonstrating an unconditional generation capability. https://ahn-ml.github.io/gram-website