PhysBrain 1.0 Технический отчет

Аннотация

Модели "зрение-язык-действие" быстро продвинулись вперед, однако одних только траекторий роботов недостаточно для обеспечения широкого охвата при обучении физическому пониманию. PhysBrain 1.0 исследует альтернативный путь: преобразование крупномасштабных эгоцентрических видео человека в структурированные обучающие сигналы физического здравого смысла до адаптации к роботу. Наш механизм обработки данных извлекает элементы сцены, пространственную динамику, выполнение действий и отношения с учетом глубины, а затем преобразует их в обучающие сигналы в формате "вопрос-ответ" для тренировки VLM PhysBrain. Полученные физические априорные знания в дальнейшем переносятся на политики VLA с помощью дизайна адаптации, сохраняющего способности и чувствительного к языку. На мультимодальных бенчмарках вопрос-ответ и бенчмарках воплощенного управления, включая ERQA, PhysBench, SimplerEnv-WidowX, LIBERO и RoboCasa, PhysBrain 1.0 достигает современных результатов (SOTA), демонстрируя особенно высокую производительность вне домена на SimplerEnv. Эти результаты показывают, что масштабирование физического здравого смысла на основе видео взаимодействий человека может служить эффективным мостом от мультимодального понимания к действиям робота.

English

Vision-language-action models have advanced rapidly, but robot trajectories alone provide limited coverage for learning broad physical understanding. PhysBrain 1.0 studies a complementary route: converting large-scale human egocentric video into structured physical commonsense supervision before robot adaptation. Our data engine extracts scene elements, spatial dynamics, action execution, and depth-aware relations, then turns them into question-answer supervision for training PhysBrain VLMs. The resulting physical priors are further transferred to VLA policies through a capability-preserving and language-sensitive adaptation design. Across multimodal QA benchmarks and embodied control benchmarks, including ERQA, PhysBench, SimplerEnv-WidowX, LIBERO, and RoboCasa, PhysBrain 1.0 achieves SOTA results and shows especially strong out-of-domain performance on SimplerEnv. These results suggest that scaling physical commonsense from human interaction video can provide an effective bridge from multimodal understanding to robot action.