Крупные языковые модели как универсальные стратегии для задач в физическом мире

Large Language Models as Generalizable Policies for Embodied Tasks

October 26, 2023

Авторы: Andrew Szot, Max Schwarzer, Harsh Agrawal, Bogdan Mazoure, Walter Talbott, Katherine Metcalf, Natalie Mackraz, Devon Hjelm, Alexander Toshev

cs.AI

Аннотация

Мы демонстрируем, что крупные языковые модели (LLM) могут быть адаптированы для использования в качестве обобщаемых стратегий в задачах, связанных с визуальным восприятием в физическом окружении. Наш подход, названный Large LAnguage model Reinforcement Learning Policy (LLaRP), адаптирует предварительно обученную замороженную LLM для обработки текстовых инструкций и визуальных эгоцентрических наблюдений с целью непосредственного вывода действий в окружающей среде. Используя обучение с подкреплением, мы обучаем LLaRP видеть и действовать исключительно через взаимодействия с окружением. Мы показываем, что LLaRP устойчива к сложным перефразированиям инструкций и способна обобщать новые задачи, требующие нестандартного оптимального поведения. В частности, на 1 000 ранее не встречавшихся задач она достигает успеха в 42% случаев, что в 1,7 раза превышает показатели других распространенных обученных базовых моделей или нулевых применений LLM. Наконец, чтобы помочь сообществу в изучении задач, связанных с языковыми условиями, массово многозадачными и воплощенными в ИИ проблемами, мы представляем новый бенчмарк Language Rearrangement, состоящий из 150 000 обучающих и 1 000 тестовых задач для языково-обусловленного переупорядочивания. Видео примеров работы LLaRP с ранее не встречавшимися инструкциями Language Rearrangement доступны по адресу https://llm-rl.github.io.

English

We show that large language models (LLMs) can be adapted to be generalizable policies for embodied visual tasks. Our approach, called Large LAnguage model Reinforcement Learning Policy (LLaRP), adapts a pre-trained frozen LLM to take as input text instructions and visual egocentric observations and output actions directly in the environment. Using reinforcement learning, we train LLaRP to see and act solely through environmental interactions. We show that LLaRP is robust to complex paraphrasings of task instructions and can generalize to new tasks that require novel optimal behavior. In particular, on 1,000 unseen tasks it achieves 42% success rate, 1.7x the success rate of other common learned baselines or zero-shot applications of LLMs. Finally, to aid the community in studying language conditioned, massively multi-task, embodied AI problems we release a novel benchmark, Language Rearrangement, consisting of 150,000 training and 1,000 testing tasks for language-conditioned rearrangement. Video examples of LLaRP in unseen Language Rearrangement instructions are at https://llm-rl.github.io.