ATLAS: ¿Razonamiento visual agentivo o latente? Una palabra es suficiente para ambos.

Resumen

El razonamiento visual, a menudo intercalado con estados visuales intermedios, ha surgido como una dirección prometedora en el campo. Un enfoque directo consiste en generar imágenes directamente mediante modelos unificados durante el razonamiento, pero esto resulta costoso desde el punto de vista computacional y no trivial a nivel arquitectónico. Alternativas recientes incluyen el razonamiento agentivo a través de código o llamadas a herramientas, y el razonamiento latente con representaciones ocultas aprendibles. Sin embargo, los métodos agentivos incurren en latencia de cambio de contexto debido a la ejecución externa, mientras que los métodos latentes carecen de generalización de tareas y son difíciles de entrenar con paralelización autoregresiva. Para combinar sus fortalezas y mitigar sus limitaciones, proponemos ATLAS, un marco en el que una única 'palabra' discreta, denominada token funcional, sirve tanto como operación agentiva como unidad de razonamiento visual latente. Cada token funcional está asociado a una operación visual internalizada, pero no requiere supervisión visual y sigue siendo un token estándar en el vocabulario del tokenizador, que puede generarse mediante predicción del siguiente token. Este diseño evita la generación verbosa de contenido visual intermedio, al tiempo que preserva la compatibilidad con el entrenamiento escalable estándar de SFT y RL, sin modificaciones arquitectónicas o metodológicas. Para abordar además la escasez de tokens funcionales durante el RL, introducimos GRPO Anclado en Latentes (LA-GRPO), que estabiliza el entrenamiento anclando los tokens funcionales con un objetivo auxiliar de ponderación estática, proporcionando actualizaciones de gradiente más sólidas. Experimentos y análisis exhaustivos demuestran que ATLAS logra un rendimiento superior en puntos de referencia desafiantes, manteniendo una clara interpretabilidad. Esperamos que ATLAS ofrezca un nuevo paradigma que inspire futuras investigaciones en razonamiento visual.

English

Visual reasoning, often interleaved with intermediate visual states, has emerged as a promising direction in the field. A straightforward approach is to directly generate images via unified models during reasoning, but this is computationally expensive and architecturally non-trivial. Recent alternatives include agentic reasoning through code or tool calls, and latent reasoning with learnable hidden embeddings. However, agentic methods incur context-switching latency from external execution, while latent methods lack task generalization and are difficult to train with autoregressive parallelization. To combine their strengths while mitigating their limitations, we propose ATLAS, a framework in which a single discrete 'word', termed as a functional token, serves both as an agentic operation and a latent visual reasoning unit. Each functional token is associated with an internalized visual operation, yet requires no visual supervision and remains a standard token in the tokenizer vocabulary, which can be generated via next-token prediction. This design avoids verbose intermediate visual content generation, while preserving compatibility with the vanilla scalable SFT and RL training, without architectural or methodological modifications. To further address the sparsity of functional tokens during RL, we introduce Latent-Anchored GRPO (LA-GRPO), which stabilizes the training by anchoring functional tokens with a statically weighted auxiliary objective, providing stronger gradient updates. Extensive experiments and analyses demonstrate that ATLAS achieves superior performance on challenging benchmarks while maintaining clear interpretability. We hope ATLAS offers a new paradigm inspiring future visual reasoning research.