Pensar com a Imaginação: Raciocínio Visuoespacial com Agência em Simuladores de Mundo

Resumo

Embora os Modelos de Visão-Linguagem (VLMs) tenham demonstrado capacidades sólidas de raciocínio visual, suas habilidades de raciocínio espacial permanecem em grande parte restritas às imagens observadas e à cadeia de pensamento orientada por texto. Eles frequentemente têm dificuldade em inferir layouts não observados, manter a consistência entre vistas e raciocinar a partir de pontos de vista alternativos quando apenas observações egocêntricas limitadas estão disponíveis. Neste trabalho, estudamos esse problema como pensar com imaginação, onde um VLM adquire ativamente evidências visuais imaginadas ao interagir com um simulador de mundo durante o raciocínio. Propomos o Astra, uma estrutura de raciocínio espacial agentivo que capacita VLMs com imaginação visual condicionada a ações. Especificamente, o Astra acopla o Astra-VL, uma política VLM treinada por RL, com o Astra-WM, um simulador de mundo baseado em Bagel que gera observações de novas vistas a partir de imagens de contexto e movimentos de câmera em linguagem natural. Para fornecer evidências imaginadas confiáveis, o Astra-WM é treinado com ajuste de consistência de vistas para melhorar a consistência de pose e conteúdo entre vistas. No estágio de RL, propomos um currículo de RL em duas fases com simulador de mundo no loop para estabilizar a exploração do uso de ferramentas e avançar a capacidade do modelo de invocar o simulador apenas quando observações imaginadas melhoram em relação à resposta direta. Experimentos demonstram que tanto o simulador de mundo quanto a política agentiva são necessários: o Astra-WM melhora o Gemini-3-Flash aumentado pelo simulador no MMSI-Bench de 45,1 para 49,5, enquanto o Astra-VL melhora a espinha dorsal Qwen3-VL de 29,8 para 38,8 no MMSI-Bench e de 36,8 para 42,7 no MindCube. Esses resultados mostram que observações imaginadas podem fornecer evidências espaciais úteis, mas o raciocínio eficaz aumentado por modelo de mundo requer aprender quando, onde e como imaginar.

English

While Vision-Language Models (VLMs) have shown strong visual reasoning capabilities, their spatial reasoning abilities remain largely constrained to the observed images and text-oriented chain-of-thought. They often struggle to infer unobserved layouts, maintain cross-view consistency, and reason from alternative viewpoints when only limited egocentric observations are available. In this work, we study this problem as thinking with imagination, where a VLM actively acquires imagined visual evidence by interacting with a world simulator during reasoning. We propose Astra, an agentic spatial reasoning framework that empowers VLMs with action-conditioned visual imagination. Specifically, Astra couples Astra-VL, an RL-trained VLM policy, with Astra-WM, a Bagel-based world simulator that generates novel-view observations from context images and natural-language camera motions. To provide reliable imagined evidence, Astra-WM is trained with view consistency tuning to improve pose and content consistency across views. In the RL stage, we propose a world-simulator-in-the-loop two-phase RL curriculum to stabilize tool-use exploration and advance the model's ability to invoke the simulator only when imagined observations improve over direct answering. Experiments demonstrate that both the world simulator and the agentic policy are necessary: Astra-WM improves simulator-augmented Gemini-3-Flash on MMSI-Bench from 45.1 to 49.5, while Astra-VL improves the Qwen3-VL backbone from 29.8 to 38.8 on MMSI-Bench and from 36.8 to 42.7 on MindCube. These results show that imagined observations can provide useful spatial evidence, but effective world-model-augmented reasoning requires learning when, where, and how to imagine.