Pensare con la Fotocamera: Un Modello Multimodale Unificato per la Comprensione e la Generazione Centrate sulla Fotocamera

Thinking with Camera: A Unified Multimodal Model for Camera-Centric Understanding and Generation

October 9, 2025

Autori: Kang Liao, Size Wu, Zhonghua Wu, Linyi Jin, Chao Wang, Yikai Wang, Fei Wang, Wei Li, Chen Change Loy

cs.AI

Abstract

La comprensione e la generazione centrate sulla fotocamera sono due pilastri dell'intelligenza spaziale, ma vengono tipicamente studiate in modo isolato. Presentiamo Puffin, un modello multimodale unificato centrato sulla fotocamera che estende la consapevolezza spaziale lungo la dimensione della fotocamera. Puffin integra la regressione linguistica e la generazione basata su diffusione per interpretare e creare scene da punti di vista arbitrari. Per colmare il divario modale tra fotocamere e linguaggio visivo, introduciamo un nuovo paradigma che tratta la fotocamera come linguaggio, consentendo di pensare con la fotocamera. Questo guida il modello ad allineare gli indizi visivi radicati spazialmente con la terminologia fotografica, ragionando attraverso il contesto geometrico. Puffin è addestrato su Puffin-4M, un ampio dataset di 4 milioni di triplette visione-linguaggio-fotocamera. Incorporiamo sia parametri globali della fotocamera che mappe fotografiche pixel-wise, ottenendo una generazione spaziale flessibile e affidabile. Gli esperimenti dimostrano la performance superiore di Puffin rispetto a modelli specializzati per la generazione e comprensione centrate sulla fotocamera. Con il tuning delle istruzioni, Puffin si generalizza a diverse attività cross-view come l'immaginazione spaziale, l'esplorazione del mondo e la guida fotografica. Rilasceremo il codice, i modelli, la pipeline del dataset e il benchmark per far avanzare la ricerca sull'intelligenza spaziale multimodale.

English

Camera-centric understanding and generation are two cornerstones of spatial intelligence, yet they are typically studied in isolation. We present Puffin, a unified camera-centric multimodal model that extends spatial awareness along the camera dimension. Puffin integrates language regression and diffusion-based generation to interpret and create scenes from arbitrary viewpoints. To bridge the modality gap between cameras and vision-language, we introduce a novel paradigm that treats camera as language, enabling thinking with camera. This guides the model to align spatially grounded visual cues with photographic terminology while reasoning across geometric context. Puffin is trained on Puffin-4M, a large-scale dataset of 4 million vision-language-camera triplets. We incorporate both global camera parameters and pixel-wise camera maps, yielding flexible and reliable spatial generation. Experiments demonstrate Puffin superior performance over specialized models for camera-centric generation and understanding. With instruction tuning, Puffin generalizes to diverse cross-view tasks such as spatial imagination, world exploration, and photography guidance. We will release the code, models, dataset pipeline, and benchmark to advance multimodal spatial intelligence research.