Denken mit der Kamera: Ein einheitliches multimodales Modell für kamera-zentriertes Verstehen und Generieren

Thinking with Camera: A Unified Multimodal Model for Camera-Centric Understanding and Generation

October 9, 2025

papers.authors: Kang Liao, Size Wu, Zhonghua Wu, Linyi Jin, Chao Wang, Yikai Wang, Fei Wang, Wei Li, Chen Change Loy

cs.AI

papers.abstract

Kamera-zentriertes Verständnis und Generierung sind zwei Eckpfeiler der räumlichen Intelligenz, werden jedoch typischerweise isoliert voneinander untersucht. Wir präsentieren Puffin, ein einheitliches kamera-zentriertes multimodales Modell, das das räumliche Bewusstsein entlang der Kameradimension erweitert. Puffin integriert Sprachregression und diffusionsbasierte Generierung, um Szenen aus beliebigen Blickwinkeln zu interpretieren und zu erstellen. Um die Modallitätslücke zwischen Kameras und Bild-Sprache zu überbrücken, führen wir ein neuartiges Paradigma ein, das die Kamera als Sprache behandelt und damit das Denken mit der Kamera ermöglicht. Dies leitet das Modell an, räumlich verankerte visuelle Hinweise mit fotografischer Terminologie in Einklang zu bringen, während es über geometrische Kontexte hinweg schlussfolgert. Puffin wird auf Puffin-4M trainiert, einem groß angelegten Datensatz mit 4 Millionen Vision-Sprache-Kamera-Tripeln. Wir integrieren sowohl globale Kameraparameter als auch pixelgenaue Kamerakarten, was eine flexible und zuverlässige räumliche Generierung ermöglicht. Experimente zeigen die überlegene Leistung von Puffin gegenüber spezialisierten Modellen für kamera-zentrierte Generierung und Verständnis. Durch Instruktionsfeinjustierung generalisiert Puffin auf diverse Aufgaben über verschiedene Blickwinkel hinweg, wie räumliche Imagination, Welterkundung und Fotografieanleitung. Wir werden den Code, die Modelle, den Datensatz-Pipeline und den Benchmark veröffentlichen, um die Forschung zur multimodalen räumlichen Intelligenz voranzutreiben.

English

Camera-centric understanding and generation are two cornerstones of spatial intelligence, yet they are typically studied in isolation. We present Puffin, a unified camera-centric multimodal model that extends spatial awareness along the camera dimension. Puffin integrates language regression and diffusion-based generation to interpret and create scenes from arbitrary viewpoints. To bridge the modality gap between cameras and vision-language, we introduce a novel paradigm that treats camera as language, enabling thinking with camera. This guides the model to align spatially grounded visual cues with photographic terminology while reasoning across geometric context. Puffin is trained on Puffin-4M, a large-scale dataset of 4 million vision-language-camera triplets. We incorporate both global camera parameters and pixel-wise camera maps, yielding flexible and reliable spatial generation. Experiments demonstrate Puffin superior performance over specialized models for camera-centric generation and understanding. With instruction tuning, Puffin generalizes to diverse cross-view tasks such as spatial imagination, world exploration, and photography guidance. We will release the code, models, dataset pipeline, and benchmark to advance multimodal spatial intelligence research.