Мышление через камеру: унифицированная мультимодальная модель для понимания и генерации, ориентированных на камеру

Thinking with Camera: A Unified Multimodal Model for Camera-Centric Understanding and Generation

October 9, 2025

Авторы: Kang Liao, Size Wu, Zhonghua Wu, Linyi Jin, Chao Wang, Yikai Wang, Fei Wang, Wei Li, Chen Change Loy

cs.AI

Аннотация

Понимание и генерация, ориентированные на камеру, являются двумя краеугольными камнями пространственного интеллекта, однако они обычно изучаются изолированно. Мы представляем Puffin — унифицированную мультимодальную модель, ориентированную на камеру, которая расширяет пространственное восприятие вдоль измерения камеры. Puffin интегрирует регрессию на основе языка и генерацию на основе диффузии для интерпретации и создания сцен с произвольных точек зрения. Чтобы преодолеть разрыв между модальностями камеры и визуально-языковыми данными, мы вводим новую парадигму, которая рассматривает камеру как язык, позволяя модели "мыслить с помощью камеры". Это направляет модель на согласование пространственно закрепленных визуальных подсказок с фотографической терминологией, одновременно рассуждая в геометрическом контексте. Puffin обучается на Puffin-4M — крупномасштабном наборе данных, содержащем 4 миллиона триплетов "визуальные данные-язык-камера". Мы включаем как глобальные параметры камеры, так и поэлементные карты камеры, что обеспечивает гибкую и надежную пространственную генерацию. Эксперименты демонстрируют превосходство Puffin над специализированными моделями в задачах генерации и понимания, ориентированных на камеру. Благодаря настройке на инструкциях, Puffin обобщается для выполнения разнообразных задач, связанных с кросс-видовым анализом, таких как пространственное воображение, исследование мира и руководство по фотографии. Мы опубликуем код, модели, конвейер обработки данных и бенчмарк для продвижения исследований в области мультимодального пространственного интеллекта.

English

Camera-centric understanding and generation are two cornerstones of spatial intelligence, yet they are typically studied in isolation. We present Puffin, a unified camera-centric multimodal model that extends spatial awareness along the camera dimension. Puffin integrates language regression and diffusion-based generation to interpret and create scenes from arbitrary viewpoints. To bridge the modality gap between cameras and vision-language, we introduce a novel paradigm that treats camera as language, enabling thinking with camera. This guides the model to align spatially grounded visual cues with photographic terminology while reasoning across geometric context. Puffin is trained on Puffin-4M, a large-scale dataset of 4 million vision-language-camera triplets. We incorporate both global camera parameters and pixel-wise camera maps, yielding flexible and reliable spatial generation. Experiments demonstrate Puffin superior performance over specialized models for camera-centric generation and understanding. With instruction tuning, Puffin generalizes to diverse cross-view tasks such as spatial imagination, world exploration, and photography guidance. We will release the code, models, dataset pipeline, and benchmark to advance multimodal spatial intelligence research.