AlphaOne: Modelos de razonamiento que piensan lento y rápido en el momento de la prueba
AlphaOne: Reasoning Models Thinking Slow and Fast at Test Time
May 30, 2025
Autores: Junyu Zhang, Runpei Dong, Han Wang, Xuying Ning, Haoran Geng, Peihao Li, Xialin He, Yutong Bai, Jitendra Malik, Saurabh Gupta, Huan Zhang
cs.AI
Resumen
Este artículo presenta AlphaOne (alpha1), un marco universal para modular el progreso del razonamiento en modelos de razonamiento de gran escala (LRMs, por sus siglas en inglés) durante la fase de prueba. Alpha1 introduce primero el concepto de momento alfa, que representa la fase de pensamiento escalada con un parámetro universal alfa. Dentro de esta fase pre-alfa escalada, programa dinámicamente las transiciones de pensamiento lento modelando la inserción de tokens de transición de razonamiento como un proceso estocástico de Bernoulli. Después del momento alfa, Alpha1 termina de manera determinista el pensamiento lento con el token de fin-de-pensamiento, fomentando así un razonamiento rápido y una generación eficiente de respuestas. Este enfoque unifica y generaliza los métodos de escalado monótono existentes al permitir una modulación flexible y densa del razonamiento de lento a rápido. Estudios empíricos exhaustivos en diversos puntos de referencia desafiantes en dominios matemáticos, de programación y científicos demuestran la capacidad superior de razonamiento y eficiencia de Alpha1. Página del proyecto: https://alphaone-project.github.io/
English
This paper presents AlphaOne (alpha1), a universal framework for
modulating reasoning progress in large reasoning models (LRMs) at test time.
alpha1 first introduces alpha moment, which represents the scaled
thinking phase with a universal parameter alpha. Within this scaled
pre-alpha moment phase, it dynamically schedules slow thinking transitions
by modeling the insertion of reasoning transition tokens as a Bernoulli
stochastic process. After the alpha moment, alpha1 deterministically
terminates slow thinking with the end-of-thinking token, thereby fostering fast
reasoning and efficient answer generation. This approach unifies and
generalizes existing monotonic scaling methods by enabling flexible and dense
slow-to-fast reasoning modulation. Extensive empirical studies on various
challenging benchmarks across mathematical, coding, and scientific domains
demonstrate alpha1's superior reasoning capability and efficiency. Project
page: https://alphaone-project.github.io/