Embodied-Reasoner: Синергия визуального поиска, рассуждений и действий для интерактивных задач в воплощённых системах

Embodied-Reasoner: Synergizing Visual Search, Reasoning, and Action for Embodied Interactive Tasks

March 27, 2025

Авторы: Wenqi Zhang, Mengna Wang, Gangao Liu, Xu Huixin, Yiwei Jiang, Yongliang Shen, Guiyang Hou, Zhe Zheng, Hang Zhang, Xin Li, Weiming Lu, Peng Li, Yueting Zhuang

cs.AI

Аннотация

Последние достижения в области моделей глубокого мышления продемонстрировали выдающиеся способности к рассуждению в математических и программистских задачах. Однако их эффективность в воплощённых доменах, требующих непрерывного взаимодействия с окружением через траектории, чередующие изображения и действия, остаётся в значительной степени неисследованной. Мы представляем Embodied Reasoner — модель, которая расширяет стиль рассуждений o1 на интерактивные задачи воплощённого поиска. В отличие от математического рассуждения, которое в основном опирается на логическую дедукцию, воплощённые сценарии требуют пространственного понимания, временного рассуждения и постоянного самоанализа на основе истории взаимодействий. Для решения этих задач мы синтезируем 9,3 тыс. согласованных траекторий "Наблюдение-Мысль-Действие", содержащих 64 тыс. интерактивных изображений и 90 тыс. разнообразных мыслительных процессов (анализ, пространственное рассуждение, рефлексия, планирование и проверка). Мы разрабатываем трёхэтапный процесс обучения, который постепенно улучшает способности модели через обучение с подражанием, самоисследование с помощью отбраковки выборок и самокоррекцию через настройку рефлексии. Оценка показывает, что наша модель значительно превосходит передовые модели визуального рассуждения, например, она превышает показатели OpenAI o1, o3-mini и Claude-3.7 на +9%, 24% и +13% соответственно. Анализ выявляет, что наша модель демонстрирует меньше повторных поисков и логических несоответствий, с особыми преимуществами в сложных задачах с длительным горизонтом. В реальных средах также наблюдается наше превосходство при меньшем количестве повторных поисков и случаев логической несогласованности.

English

Recent advances in deep thinking models have demonstrated remarkable reasoning capabilities on mathematical and coding tasks. However, their effectiveness in embodied domains which require continuous interaction with environments through image action interleaved trajectories remains largely -unexplored. We present Embodied Reasoner, a model that extends o1 style reasoning to interactive embodied search tasks. Unlike mathematical reasoning that relies primarily on logical deduction, embodied scenarios demand spatial understanding, temporal reasoning, and ongoing self-reflection based on interaction history. To address these challenges, we synthesize 9.3k coherent Observation-Thought-Action trajectories containing 64k interactive images and 90k diverse thinking processes (analysis, spatial reasoning, reflection, planning, and verification). We develop a three-stage training pipeline that progressively enhances the model's capabilities through imitation learning, self-exploration via rejection sampling, and self-correction through reflection tuning. The evaluation shows that our model significantly outperforms those advanced visual reasoning models, e.g., it exceeds OpenAI o1, o3-mini, and Claude-3.7 by +9\%, 24\%, and +13\%. Analysis reveals our model exhibits fewer repeated searches and logical inconsistencies, with particular advantages in complex long-horizon tasks. Real-world environments also show our superiority while exhibiting fewer repeated searches and logical inconsistency cases.