ATLAS: Agentisch of latent visueel redeneren? Eén woord is genoeg voor beide.

Samenvatting

Visueel redeneren, vaak afgewisseld met tussenliggende visuele toestanden, is naar voren gekomen als een veelbelovende richting in het vakgebied. Een eenvoudige benadering is om tijdens het redeneren direct afbeeldingen te genereren via uniforme modellen, maar dit is rekenintensief en architectonisch niet triviaal. Recente alternatieven omvatten agentisch redeneren via code- of toolaanroepen, en latent redeneren met leerbare verborgen embeddings. Echter, agentische methoden hebben last van contextwisselingslatentie door externe uitvoering, terwijl latente methoden taakgeneralisatie missen en moeilijk te trainen zijn met autoregessieve parallellisatie. Om hun sterke punten te combineren en tegelijkertijd hun beperkingen te verminderen, stellen we ATLAS voor, een raamwerk waarin een enkel discreet 'woord', aangeduid als een functioneel token, dient als zowel een agentische bewerking als een latente visuele redeneereenheid. Elk functioneel token is geassocieerd met een geïnternaliseerde visuele bewerking, maar vereist geen visueel toezicht en blijft een standaardtoken in de vocabulaire van de tokenizer, dat kan worden gegenereerd via volgende-token voorspelling. Dit ontwerp vermijdt langdradige generatie van tussenliggende visuele inhoud, terwijl de compatibiliteit met de standaard schaalbare SFT- en RL-training behouden blijft, zonder architectonische of methodologische wijzigingen. Om de schaarste van functionele tokens tijdens RL verder aan te pakken, introduceren we Latent-Anchored GRPO (LA-GRPO), dat de training stabiliseert door functionele tokens te verankeren met een statisch gewogen hulpdoelstelling, wat sterkere gradientupdates oplevert. Uitgebreide experimenten en analyses tonen aan dat ATLAS superieure prestaties levert op uitdagende benchmarks, terwijl het een duidelijke interpreteerbaarheid behoudt. We hopen dat ATLAS een nieuw paradigma biedt dat toekomstig onderzoek naar visueel redeneren inspireert.

English

Visual reasoning, often interleaved with intermediate visual states, has emerged as a promising direction in the field. A straightforward approach is to directly generate images via unified models during reasoning, but this is computationally expensive and architecturally non-trivial. Recent alternatives include agentic reasoning through code or tool calls, and latent reasoning with learnable hidden embeddings. However, agentic methods incur context-switching latency from external execution, while latent methods lack task generalization and are difficult to train with autoregressive parallelization. To combine their strengths while mitigating their limitations, we propose ATLAS, a framework in which a single discrete 'word', termed as a functional token, serves both as an agentic operation and a latent visual reasoning unit. Each functional token is associated with an internalized visual operation, yet requires no visual supervision and remains a standard token in the tokenizer vocabulary, which can be generated via next-token prediction. This design avoids verbose intermediate visual content generation, while preserving compatibility with the vanilla scalable SFT and RL training, without architectural or methodological modifications. To further address the sparsity of functional tokens during RL, we introduce Latent-Anchored GRPO (LA-GRPO), which stabilizes the training by anchoring functional tokens with a statically weighted auxiliary objective, providing stronger gradient updates. Extensive experiments and analyses demonstrate that ATLAS achieves superior performance on challenging benchmarks while maintaining clear interpretability. We hope ATLAS offers a new paradigm inspiring future visual reasoning research.