Генеративное рекурсивное рассуждение

Аннотация

Как следует реализовать расширенные вычисления в будущих нейронных системах рассуждения? Рекурсивные модели рассуждения (Recursive Reasoning Models, RRM) предлагают многообещающую альтернативу авторегрессивному расширению последовательности за счет итеративного уточнения скрытого состояния с использованием общих функций перехода. Однако существующие RRM в значительной степени детерминированы: они следуют единственной латентной траектории и сходятся к одному предсказанию. Мы представляем Генеративные рекурсивные модели рассуждения (Generative Recursive Reasoning Models, GRAM) — фреймворк, который превращает рекурсивное скрытое рассуждение в вероятностные вычисления с множественными траекториями. GRAM моделирует рассуждение как стохастическую латентную траекторию, что позволяет получать множество гипотез, альтернативные стратегии решения и масштабирование на этапе вывода как за счет глубины рекурсии, так и за счет параллельной выборки траекторий. Это дает генеративную модель со скрытыми переменными, поддерживающую условное рассуждение через p_θ(y|x) и, при фиксированных или отсутствующих входных данных, безусловную генерацию через p_θ(x). Обученная с помощью амортизированного вариационного вывода, GRAM превосходит детерминированные рекуррентные и рекурсивные базовые модели в задачах структурированного рассуждения и удовлетворения ограничений с множеством решений, а также демонстрирует способность к безусловной генерации. https://ahn-ml.github.io/gram-website

English

How should future neural reasoning systems implement extended computation? Recursive Reasoning Models (RRMs) offer a promising alternative to autoregressive sequence extension by performing iterative latent-state refinement with shared transition functions. Yet existing RRMs are largely deterministic, following a single latent trajectory and converging to a single prediction. We introduce Generative Recursive reAsoning Models (GRAM), a framework that turns recursive latent reasoning into probabilistic multi-trajectory computation. GRAM models reasoning as a stochastic latent trajectory, enabling multiple hypotheses, alternative solution strategies, and inference-time scaling through both recursive depth and parallel trajectory sampling. This yields a latent-variable generative model supporting conditional reasoning via p_θ(y mid x) and, with fixed or absent inputs, unconditional generation via p_θ(x). Trained with amortized variational inference, GRAM improves over deterministic recurrent and recursive baselines on structured reasoning and multi-solution constraint satisfaction tasks, while demonstrating an unconditional generation capability. https://ahn-ml.github.io/gram-website