생성적 재귀 추론

초록

미래의 신경 추론 시스템은 확장된 계산을 어떻게 구현해야 하는가? 재귀 추론 모델(Recursive Reasoning Models, RRMs)은 공유된 전이 함수를 통한 반복적 잠재 상태 정제를 수행함으로써 자기회귀적 시퀀스 확장에 대한 유망한 대안을 제공한다. 그러나 기존 RRM은 대부분 결정론적이며, 단일 잠재 궤적을 따라 단일 예측으로 수렴한다. 본 논문에서는 생성적 재귀 추론 모델(Generative Recursive Reasoning Models, GRAM)이라는 프레임워크를 소개한다. 이 프레임워크는 재귀적 잠재 추론을 확률적 다중 궤적 계산으로 전환한다. GRAM은 추론을 확률적 잠재 궤적으로 모델링하여 다중 가설, 대안적 해결 전략, 그리고 재귀 깊이와 병렬 궤적 샘플링을 통한 추론 시간 확장을 가능하게 한다. 이를 통해 p_θ(y|x)를 통한 조건부 추론을 지원하는 잠재 변수 생성 모델이 구축되며, 입력이 고정되거나 없을 경우 p_θ(x)를 통한 무조건부 생성도 가능하다. 분산 변분 추론으로 학습된 GRAM은 구조적 추론 및 다중 해결 제약 조건 만족 작업에서 결정론적 순환 및 재귀 기준선보다 성능이 향상되며, 무조건부 생성 능력도 입증한다. https://ahn-ml.github.io/gram-website

English

How should future neural reasoning systems implement extended computation? Recursive Reasoning Models (RRMs) offer a promising alternative to autoregressive sequence extension by performing iterative latent-state refinement with shared transition functions. Yet existing RRMs are largely deterministic, following a single latent trajectory and converging to a single prediction. We introduce Generative Recursive reAsoning Models (GRAM), a framework that turns recursive latent reasoning into probabilistic multi-trajectory computation. GRAM models reasoning as a stochastic latent trajectory, enabling multiple hypotheses, alternative solution strategies, and inference-time scaling through both recursive depth and parallel trajectory sampling. This yields a latent-variable generative model supporting conditional reasoning via p_θ(y mid x) and, with fixed or absent inputs, unconditional generation via p_θ(x). Trained with amortized variational inference, GRAM improves over deterministic recurrent and recursive baselines on structured reasoning and multi-solution constraint satisfaction tasks, while demonstrating an unconditional generation capability. https://ahn-ml.github.io/gram-website