Raisonnement génératif récursif

Résumé

Comment les futurs systèmes de raisonnement neuronal devraient-ils implémenter le calcul étendu ? Les modèles de raisonnement récursif (RRM) offrent une alternative prometteuse à l'extension de séquence autorégressive en effectuant un raffinement itératif des états latents avec des fonctions de transition partagées. Cependant, les RRM existants sont largement déterministes, suivant une seule trajectoire latente et convergeant vers une prédiction unique. Nous présentons les modèles de raisonnement récursif génératifs (GRAM), un cadre qui transforme le raisonnement latent récursif en un calcul probabiliste à trajectoires multiples. GRAM modélise le raisonnement comme une trajectoire latente stochastique, permettant de multiples hypothèses, des stratégies de solution alternatives et une mise à l'échelle au moment de l'inférence à la fois par la profondeur récursive et l'échantillonnage parallèle de trajectoires. Cela donne un modèle génératif à variables latentes supportant le raisonnement conditionnel via p_θ(y | x) et, avec des entrées fixes ou absentes, la génération inconditionnelle via p_θ(x). Entraîné avec l'inférence variationnelle amortie, GRAM surpasse les références déterministes récurrentes et récursives sur des tâches de raisonnement structuré et de satisfaction de contraintes à solutions multiples, tout en démontrant une capacité de génération inconditionnelle. https://ahn-ml.github.io/gram-website

English

How should future neural reasoning systems implement extended computation? Recursive Reasoning Models (RRMs) offer a promising alternative to autoregressive sequence extension by performing iterative latent-state refinement with shared transition functions. Yet existing RRMs are largely deterministic, following a single latent trajectory and converging to a single prediction. We introduce Generative Recursive reAsoning Models (GRAM), a framework that turns recursive latent reasoning into probabilistic multi-trajectory computation. GRAM models reasoning as a stochastic latent trajectory, enabling multiple hypotheses, alternative solution strategies, and inference-time scaling through both recursive depth and parallel trajectory sampling. This yields a latent-variable generative model supporting conditional reasoning via p_θ(y mid x) and, with fixed or absent inputs, unconditional generation via p_θ(x). Trained with amortized variational inference, GRAM improves over deterministic recurrent and recursive baselines on structured reasoning and multi-solution constraint satisfaction tasks, while demonstrating an unconditional generation capability. https://ahn-ml.github.io/gram-website