Pensar con la cámara: un modelo multimodal unificado para la comprensión y generación centrada en la cámara

Thinking with Camera: A Unified Multimodal Model for Camera-Centric Understanding and Generation

October 9, 2025

Autores: Kang Liao, Size Wu, Zhonghua Wu, Linyi Jin, Chao Wang, Yikai Wang, Fei Wang, Wei Li, Chen Change Loy

cs.AI

Resumen

La comprensión y generación centradas en la cámara son dos pilares fundamentales de la inteligencia espacial, aunque generalmente se estudian de manera aislada. Presentamos Puffin, un modelo multimodal unificado centrado en la cámara que amplía la conciencia espacial a lo largo de la dimensión de la cámara. Puffin integra regresión de lenguaje y generación basada en difusión para interpretar y crear escenas desde puntos de vista arbitrarios. Para cerrar la brecha de modalidad entre las cámaras y el lenguaje visual, introducimos un paradigma novedoso que trata la cámara como lenguaje, permitiendo pensar con la cámara. Esto guía al modelo a alinear señales visuales espacialmente fundamentadas con terminología fotográfica mientras razona en un contexto geométrico. Puffin se entrena con Puffin-4M, un conjunto de datos a gran escala de 4 millones de tripletas de lenguaje visual-cámara. Incorporamos tanto parámetros globales de la cámara como mapas de cámara a nivel de píxel, lo que permite una generación espacial flexible y confiable. Los experimentos demuestran que Puffin supera en rendimiento a los modelos especializados en generación y comprensión centradas en la cámara. Con ajustes de instrucción, Puffin se generaliza a diversas tareas de vista cruzada, como la imaginación espacial, la exploración del mundo y la orientación fotográfica. Publicaremos el código, los modelos, la canalización del conjunto de datos y el punto de referencia para avanzar en la investigación de la inteligencia espacial multimodal.

English

Camera-centric understanding and generation are two cornerstones of spatial intelligence, yet they are typically studied in isolation. We present Puffin, a unified camera-centric multimodal model that extends spatial awareness along the camera dimension. Puffin integrates language regression and diffusion-based generation to interpret and create scenes from arbitrary viewpoints. To bridge the modality gap between cameras and vision-language, we introduce a novel paradigm that treats camera as language, enabling thinking with camera. This guides the model to align spatially grounded visual cues with photographic terminology while reasoning across geometric context. Puffin is trained on Puffin-4M, a large-scale dataset of 4 million vision-language-camera triplets. We incorporate both global camera parameters and pixel-wise camera maps, yielding flexible and reliable spatial generation. Experiments demonstrate Puffin superior performance over specialized models for camera-centric generation and understanding. With instruction tuning, Puffin generalizes to diverse cross-view tasks such as spatial imagination, world exploration, and photography guidance. We will release the code, models, dataset pipeline, and benchmark to advance multimodal spatial intelligence research.