Relatório Técnico do PhysBrain 1.0

Resumo

Modelos visão-linguagem-ação avançaram rapidamente, mas as trajetórias de robôs sozinhas fornecem cobertura limitada para o aprendizado de uma compreensão física ampla. O PhysBrain 1.0 estuda uma rota complementar: converter grandes volumes de vídeo egocêntrico humano em supervisão estruturada de senso comum físico antes da adaptação do robô. Nosso mecanismo de dados extrai elementos de cena, dinâmicas espaciais, execução de ações e relações com profundidade, transformando-os em supervisão de perguntas e respostas para treinar os VLMs do PhysBrain. Os priores físicos resultantes são então transferidos para políticas VLA por meio de um projeto de adaptação que preserva capacidades e é sensível à linguagem. Em benchmarks multimodais de QA e benchmarks de controle incorporado, incluindo ERQA, PhysBench, SimplerEnv-WidowX, LIBERO e RoboCasa, o PhysBrain 1.0 alcança resultados de estado da arte e mostra desempenho especialmente forte fora do domínio no SimplerEnv. Esses resultados sugerem que escalar o senso comum físico a partir de vídeos de interação humana pode fornecer uma ponte eficaz da compreensão multimodal para a ação robótica.

English

Vision-language-action models have advanced rapidly, but robot trajectories alone provide limited coverage for learning broad physical understanding. PhysBrain 1.0 studies a complementary route: converting large-scale human egocentric video into structured physical commonsense supervision before robot adaptation. Our data engine extracts scene elements, spatial dynamics, action execution, and depth-aware relations, then turns them into question-answer supervision for training PhysBrain VLMs. The resulting physical priors are further transferred to VLA policies through a capability-preserving and language-sensitive adaptation design. Across multimodal QA benchmarks and embodied control benchmarks, including ERQA, PhysBench, SimplerEnv-WidowX, LIBERO, and RoboCasa, PhysBrain 1.0 achieves SOTA results and shows especially strong out-of-domain performance on SimplerEnv. These results suggest that scaling physical commonsense from human interaction video can provide an effective bridge from multimodal understanding to robot action.