Embodied-Reasoner: Sinergizando Busca Visual, Raciocínio e Ação para Tarefas Interativas de Embodiment

Embodied-Reasoner: Synergizing Visual Search, Reasoning, and Action for Embodied Interactive Tasks

March 27, 2025

Autores: Wenqi Zhang, Mengna Wang, Gangao Liu, Xu Huixin, Yiwei Jiang, Yongliang Shen, Guiyang Hou, Zhe Zheng, Hang Zhang, Xin Li, Weiming Lu, Peng Li, Yueting Zhuang

cs.AI

Resumo

Avanços recentes em modelos de pensamento profundo demonstraram capacidades notáveis de raciocínio em tarefas matemáticas e de codificação. No entanto, sua eficácia em domínios incorporados, que exigem interação contínua com ambientes por meio de trajetórias intercaladas de imagem e ação, permanece amplamente inexplorada. Apresentamos o Embodied Reasoner, um modelo que estende o raciocínio no estilo o1 para tarefas de busca interativa incorporada. Diferente do raciocínio matemático, que depende principalmente de dedução lógica, cenários incorporados exigem compreensão espacial, raciocínio temporal e autorreflexão contínua com base no histórico de interações. Para enfrentar esses desafios, sintetizamos 9,3 mil trajetórias coerentes de Observação-Pensamento-Ação, contendo 64 mil imagens interativas e 90 mil processos de pensamento diversos (análise, raciocínio espacial, reflexão, planejamento e verificação). Desenvolvemos um pipeline de treinamento em três estágios que aprimora progressivamente as capacidades do modelo por meio de aprendizado por imitação, autoexploração via amostragem por rejeição e autocorreção por meio de ajuste de reflexão. A avaliação mostra que nosso modelo supera significativamente os modelos avançados de raciocínio visual, por exemplo, excedendo o OpenAI o1, o3-mini e Claude-3.7 em +9%, 24% e +13%, respectivamente. A análise revela que nosso modelo exibe menos buscas repetidas e inconsistências lógicas, com vantagens particulares em tarefas complexas de longo horizonte. Ambientes do mundo real também demonstram nossa superioridade, exibindo menos casos de buscas repetidas e inconsistências lógicas.

English

Recent advances in deep thinking models have demonstrated remarkable reasoning capabilities on mathematical and coding tasks. However, their effectiveness in embodied domains which require continuous interaction with environments through image action interleaved trajectories remains largely -unexplored. We present Embodied Reasoner, a model that extends o1 style reasoning to interactive embodied search tasks. Unlike mathematical reasoning that relies primarily on logical deduction, embodied scenarios demand spatial understanding, temporal reasoning, and ongoing self-reflection based on interaction history. To address these challenges, we synthesize 9.3k coherent Observation-Thought-Action trajectories containing 64k interactive images and 90k diverse thinking processes (analysis, spatial reasoning, reflection, planning, and verification). We develop a three-stage training pipeline that progressively enhances the model's capabilities through imitation learning, self-exploration via rejection sampling, and self-correction through reflection tuning. The evaluation shows that our model significantly outperforms those advanced visual reasoning models, e.g., it exceeds OpenAI o1, o3-mini, and Claude-3.7 by +9\%, 24\%, and +13\%. Analysis reveals our model exhibits fewer repeated searches and logical inconsistencies, with particular advantages in complex long-horizon tasks. Real-world environments also show our superiority while exhibiting fewer repeated searches and logical inconsistency cases.