Generatives rekursives Schlussfolgern

Zusammenfassung

Wie sollten zukünftige neuronale Reasoningsysteme erweiterte Berechnungen umsetzen? Rekursive Reasoningsmodelle (RRMs) bieten eine vielversprechende Alternative zur autoregressiven Sequenzerweiterung, indem sie eine iterative Verfeinerung des latenten Zustands mit geteilten Übergangsfunktionen durchführen. Allerdings sind bestehende RRMs weitgehend deterministisch: Sie folgen einer einzigen latenten Trajektorie und konvergieren zu einer einzigen Vorhersage. Wir stellen Generative Recursive reAsoning Models (GRAM) vor, ein Framework, das rekursives latentes Reasoning in eine probabilistische Berechnung mit mehreren Trajektorien überführt. GRAM modelliert Reasoning als stochastische latente Trajektorie, was multiple Hypothesen, alternative Lösungsstrategien und eine Skalierung zur Inferenzzeit sowohl über die rekursive Tiefe als auch über paralleles Trajektorien-Sampling ermöglicht. Dies ergibt ein generatives Modell mit latenten Variablen, das bedingtes Reasoning über \(p_\theta(y \mid x)\) und – bei festen oder fehlenden Eingaben – bedingungslose Generierung über \(p_\theta(x)\) unterstützt. Trainiert mit amortisierter variationeller Inferenz verbessert GRAM deterministische rekurrente und rekursive Basislinien bei Aufgaben des strukturierten Reasoning und der Erfüllung von Bedingungen mit mehreren Lösungen und demonstriert gleichzeitig eine Fähigkeit zur bedingungslosen Generierung. https://ahn-ml.github.io/gram-website

English

How should future neural reasoning systems implement extended computation? Recursive Reasoning Models (RRMs) offer a promising alternative to autoregressive sequence extension by performing iterative latent-state refinement with shared transition functions. Yet existing RRMs are largely deterministic, following a single latent trajectory and converging to a single prediction. We introduce Generative Recursive reAsoning Models (GRAM), a framework that turns recursive latent reasoning into probabilistic multi-trajectory computation. GRAM models reasoning as a stochastic latent trajectory, enabling multiple hypotheses, alternative solution strategies, and inference-time scaling through both recursive depth and parallel trajectory sampling. This yields a latent-variable generative model supporting conditional reasoning via p_θ(y mid x) and, with fixed or absent inputs, unconditional generation via p_θ(x). Trained with amortized variational inference, GRAM improves over deterministic recurrent and recursive baselines on structured reasoning and multi-solution constraint satisfaction tasks, while demonstrating an unconditional generation capability. https://ahn-ml.github.io/gram-website