Embodied-Reasoner : Synergie entre recherche visuelle, raisonnement et action pour les tâches interactives incarnées

Embodied-Reasoner: Synergizing Visual Search, Reasoning, and Action for Embodied Interactive Tasks

March 27, 2025

Auteurs: Wenqi Zhang, Mengna Wang, Gangao Liu, Xu Huixin, Yiwei Jiang, Yongliang Shen, Guiyang Hou, Zhe Zheng, Hang Zhang, Xin Li, Weiming Lu, Peng Li, Yueting Zhuang

cs.AI

Résumé

Les récents progrès des modèles de pensée profonde ont démontré des capacités de raisonnement remarquables sur des tâches mathématiques et de codage. Cependant, leur efficacité dans des domaines incarnés, qui nécessitent une interaction continue avec des environnements à travers des trajectoires entrelacées d'images et d'actions, reste largement inexplorée. Nous présentons Embodied Reasoner, un modèle qui étend le raisonnement de style o1 à des tâches de recherche interactives et incarnées. Contrairement au raisonnement mathématique qui repose principalement sur la déduction logique, les scénarios incarnés exigent une compréhension spatiale, un raisonnement temporel et une auto-réflexion continue basée sur l'historique des interactions. Pour relever ces défis, nous synthétisons 9,3k trajectoires cohérentes Observation-Pensée-Action contenant 64k images interactives et 90k processus de pensée divers (analyse, raisonnement spatial, réflexion, planification et vérification). Nous développons un pipeline d'entraînement en trois étapes qui améliore progressivement les capacités du modèle à travers l'apprentissage par imitation, l'auto-exploration via l'échantillonnage par rejet et l'auto-correction par réglage réflexif. L'évaluation montre que notre modèle surpasse significativement les modèles avancés de raisonnement visuel, par exemple, il dépasse OpenAI o1, o3-mini et Claude-3.7 de +9\%, 24\% et +13\%. L'analyse révèle que notre modèle présente moins de recherches répétées et d'incohérences logiques, avec des avantages particuliers dans les tâches complexes à long terme. Les environnements réels montrent également notre supériorité tout en présentant moins de cas de recherches répétées et d'incohérences logiques.

English

Recent advances in deep thinking models have demonstrated remarkable reasoning capabilities on mathematical and coding tasks. However, their effectiveness in embodied domains which require continuous interaction with environments through image action interleaved trajectories remains largely -unexplored. We present Embodied Reasoner, a model that extends o1 style reasoning to interactive embodied search tasks. Unlike mathematical reasoning that relies primarily on logical deduction, embodied scenarios demand spatial understanding, temporal reasoning, and ongoing self-reflection based on interaction history. To address these challenges, we synthesize 9.3k coherent Observation-Thought-Action trajectories containing 64k interactive images and 90k diverse thinking processes (analysis, spatial reasoning, reflection, planning, and verification). We develop a three-stage training pipeline that progressively enhances the model's capabilities through imitation learning, self-exploration via rejection sampling, and self-correction through reflection tuning. The evaluation shows that our model significantly outperforms those advanced visual reasoning models, e.g., it exceeds OpenAI o1, o3-mini, and Claude-3.7 by +9\%, 24\%, and +13\%. Analysis reveals our model exhibits fewer repeated searches and logical inconsistencies, with particular advantages in complex long-horizon tasks. Real-world environments also show our superiority while exhibiting fewer repeated searches and logical inconsistency cases.