Pensar con imaginación: razonamiento visoespacial agentivo con simuladores del mundo

Resumen

Si bien los Modelos de Lenguaje y Visión (MLVs) han demostrado sólidas capacidades de razonamiento visual, sus habilidades de razonamiento espacial siguen estando en gran medida limitadas a las imágenes observadas y a cadenas de pensamiento orientadas al texto. A menudo tienen dificultades para inferir distribuciones no observadas, mantener la coherencia entre vistas y razonar desde puntos de vista alternativos cuando solo se dispone de observaciones egocéntricas limitadas. En este trabajo, estudiamos este problema como pensamiento con imaginación, donde un MLV adquiere activamente evidencia visual imaginada al interactuar con un simulador del mundo durante el razonamiento. Proponemos Astra, un marco de razonamiento espacial agéntico que dota a los MLVs de imaginación visual condicionada a acciones. Específicamente, Astra combina Astra-VL, una política de MLV entrenada con RL, con Astra-WM, un simulador del mundo basado en Bagel que genera observaciones de vistas novedosas a partir de imágenes de contexto y movimientos de cámara en lenguaje natural. Para proporcionar evidencia imaginada confiable, Astra-WM se entrena con ajuste de consistencia de vistas para mejorar la consistencia de pose y contenido entre vistas. En la etapa de RL, proponemos un currículo de RL en dos fases con el simulador del mundo en el ciclo para estabilizar la exploración del uso de herramientas y avanzar la capacidad del modelo para invocar al simulador solo cuando las observaciones imaginadas mejoran la respuesta directa. Los experimentos demuestran que tanto el simulador del mundo como la política agéntica son necesarios: Astra-WM mejora a Gemini-3-Flash aumentado con simulador en MMSI-Bench de 45.1 a 49.5, mientras que Astra-VL mejora la columna vertebral Qwen3-VL de 29.8 a 38.8 en MMSI-Bench y de 36.8 a 42.7 en MindCube. Estos resultados muestran que las observaciones imaginadas pueden proporcionar evidencia espacial útil, pero un razonamiento efectivo aumentado por modelo del mundo requiere aprender cuándo, dónde y cómo imaginar.

English

While Vision-Language Models (VLMs) have shown strong visual reasoning capabilities, their spatial reasoning abilities remain largely constrained to the observed images and text-oriented chain-of-thought. They often struggle to infer unobserved layouts, maintain cross-view consistency, and reason from alternative viewpoints when only limited egocentric observations are available. In this work, we study this problem as thinking with imagination, where a VLM actively acquires imagined visual evidence by interacting with a world simulator during reasoning. We propose Astra, an agentic spatial reasoning framework that empowers VLMs with action-conditioned visual imagination. Specifically, Astra couples Astra-VL, an RL-trained VLM policy, with Astra-WM, a Bagel-based world simulator that generates novel-view observations from context images and natural-language camera motions. To provide reliable imagined evidence, Astra-WM is trained with view consistency tuning to improve pose and content consistency across views. In the RL stage, we propose a world-simulator-in-the-loop two-phase RL curriculum to stabilize tool-use exploration and advance the model's ability to invoke the simulator only when imagined observations improve over direct answering. Experiments demonstrate that both the world simulator and the agentic policy are necessary: Astra-WM improves simulator-augmented Gemini-3-Flash on MMSI-Bench from 45.1 to 49.5, while Astra-VL improves the Qwen3-VL backbone from 29.8 to 38.8 on MMSI-Bench and from 36.8 to 42.7 on MindCube. These results show that imagined observations can provide useful spatial evidence, but effective world-model-augmented reasoning requires learning when, where, and how to imagine.