Les grands modèles de langage comme politiques généralisables pour les tâches incarnées

Large Language Models as Generalizable Policies for Embodied Tasks

October 26, 2023

papers.authors: Andrew Szot, Max Schwarzer, Harsh Agrawal, Bogdan Mazoure, Walter Talbott, Katherine Metcalf, Natalie Mackraz, Devon Hjelm, Alexander Toshev

cs.AI

papers.abstract

Nous démontrons que les grands modèles de langage (LLMs) peuvent être adaptés pour devenir des politiques généralisables pour des tâches visuelles incarnées. Notre approche, appelée Large LAnguage model Reinforcement Learning Policy (LLaRP), adapte un LLM pré-entraîné et figé pour prendre en entrée des instructions textuelles et des observations visuelles égocentriques, et produire directement des actions dans l'environnement. En utilisant l'apprentissage par renforcement, nous entraînons LLaRP à voir et agir uniquement à travers des interactions environnementales. Nous montrons que LLaRP est robuste face à des paraphrases complexes des instructions de tâches et peut généraliser à de nouvelles tâches nécessitant un comportement optimal inédit. En particulier, sur 1 000 tâches inédites, il atteint un taux de réussite de 42 %, soit 1,7 fois le taux de réussite d'autres méthodes d'apprentissage courantes ou d'applications zero-shot des LLMs. Enfin, pour aider la communauté à étudier les problèmes d'IA incarnée massivement multi-tâches conditionnés par le langage, nous publions un nouveau benchmark, Language Rearrangement, composé de 150 000 tâches d'entraînement et 1 000 tâches de test pour le réarrangement conditionné par le langage. Des exemples vidéo de LLaRP exécutant des instructions inédites de Language Rearrangement sont disponibles à l'adresse https://llm-rl.github.io.

English

We show that large language models (LLMs) can be adapted to be generalizable policies for embodied visual tasks. Our approach, called Large LAnguage model Reinforcement Learning Policy (LLaRP), adapts a pre-trained frozen LLM to take as input text instructions and visual egocentric observations and output actions directly in the environment. Using reinforcement learning, we train LLaRP to see and act solely through environmental interactions. We show that LLaRP is robust to complex paraphrasings of task instructions and can generalize to new tasks that require novel optimal behavior. In particular, on 1,000 unseen tasks it achieves 42% success rate, 1.7x the success rate of other common learned baselines or zero-shot applications of LLMs. Finally, to aid the community in studying language conditioned, massively multi-task, embodied AI problems we release a novel benchmark, Language Rearrangement, consisting of 150,000 training and 1,000 testing tasks for language-conditioned rearrangement. Video examples of LLaRP in unseen Language Rearrangement instructions are at https://llm-rl.github.io.