Rapport technique PhysBrain 1.0

Résumé

Les modèles vision-langage-action ont progressé rapidement, mais les trajectoires de robots seules offrent une couverture limitée pour apprendre une compréhension physique large. PhysBrain 1.0 étudie une voie complémentaire : convertir des vidéos égocentriques humaines à grande échelle en supervision structurée de bon sens physique avant l'adaptation robotique. Notre moteur de données extrait les éléments de scène, les dynamiques spatiales, l'exécution d'actions et les relations de profondeur, puis les transforme en supervision question-réponse pour entraîner les VLM PhysBrain. Les a priori physiques résultants sont ensuite transférés aux politiques VLA via une conception d'adaptation préservant les capacités et sensible au langage. Sur des benchmarks de QA multimodale et de contrôle incarné, y compris ERQA, PhysBench, SimplerEnv-WidowX, LIBERO et RoboCasa, PhysBrain 1.0 atteint des résultats SOTA et montre des performances particulièrement solides en hors-domaine sur SimplerEnv. Ces résultats suggèrent que la mise à l'échelle du bon sens physique à partir de vidéos d'interaction humaine peut fournir un pont efficace de la compréhension multimodale à l'action robotique.

English

Vision-language-action models have advanced rapidly, but robot trajectories alone provide limited coverage for learning broad physical understanding. PhysBrain 1.0 studies a complementary route: converting large-scale human egocentric video into structured physical commonsense supervision before robot adaptation. Our data engine extracts scene elements, spatial dynamics, action execution, and depth-aware relations, then turns them into question-answer supervision for training PhysBrain VLMs. The resulting physical priors are further transferred to VLA policies through a capability-preserving and language-sensitive adaptation design. Across multimodal QA benchmarks and embodied control benchmarks, including ERQA, PhysBench, SimplerEnv-WidowX, LIBERO, and RoboCasa, PhysBrain 1.0 achieves SOTA results and shows especially strong out-of-domain performance on SimplerEnv. These results suggest that scaling physical commonsense from human interaction video can provide an effective bridge from multimodal understanding to robot action.