RoboGen: Verso la Generazione di Dati Infiniti per l'Apprendimento Automatico dei Robot attraverso Simulazione Generativa

RoboGen: Towards Unleashing Infinite Data for Automated Robot Learning via Generative Simulation

November 2, 2023

Autori: Yufei Wang, Zhou Xian, Feng Chen, Tsun-Hsuan Wang, Yian Wang, Katerina Fragkiadaki, Zackory Erickson, David Held, Chuang Gan

cs.AI

Abstract

Presentiamo RoboGen, un agente robotico generativo che apprende automaticamente una vasta gamma di abilità robotiche su larga scala attraverso la simulazione generativa. RoboGen sfrutta i più recenti progressi nei modelli di base e generativi. Invece di utilizzare direttamente o adattare questi modelli per produrre politiche o azioni di basso livello, promuoviamo uno schema generativo che impiega questi modelli per generare automaticamente compiti, scene e supervisioni di formazione diversificati, scalando così l'apprendimento delle abilità robotiche con una supervisione umana minima. Il nostro approccio equipaggia un agente robotico con un ciclo autoguidato di proposta-generazione-apprendimento: l'agente propone prima compiti e abilità interessanti da sviluppare, e poi genera ambienti di simulazione corrispondenti popolando oggetti e asset pertinenti con configurazioni spaziali appropriate. Successivamente, l'agente scompone il compito di alto livello proposto in sotto-compiti, seleziona l'approccio di apprendimento ottimale (apprendimento per rinforzo, pianificazione del movimento o ottimizzazione della traiettoria), genera la supervisione di formazione necessaria, e poi apprende politiche per acquisire l'abilità proposta. Il nostro lavoro cerca di estrarre la conoscenza estesa e versatile incorporata nei modelli su larga scala e trasferirla al campo della robotica. La nostra pipeline completamente generativa può essere interrogata ripetutamente, producendo un flusso infinito di dimostrazioni di abilità associate a compiti e ambienti diversificati.

English

We present RoboGen, a generative robotic agent that automatically learns diverse robotic skills at scale via generative simulation. RoboGen leverages the latest advancements in foundation and generative models. Instead of directly using or adapting these models to produce policies or low-level actions, we advocate for a generative scheme, which uses these models to automatically generate diversified tasks, scenes, and training supervisions, thereby scaling up robotic skill learning with minimal human supervision. Our approach equips a robotic agent with a self-guided propose-generate-learn cycle: the agent first proposes interesting tasks and skills to develop, and then generates corresponding simulation environments by populating pertinent objects and assets with proper spatial configurations. Afterwards, the agent decomposes the proposed high-level task into sub-tasks, selects the optimal learning approach (reinforcement learning, motion planning, or trajectory optimization), generates required training supervision, and then learns policies to acquire the proposed skill. Our work attempts to extract the extensive and versatile knowledge embedded in large-scale models and transfer them to the field of robotics. Our fully generative pipeline can be queried repeatedly, producing an endless stream of skill demonstrations associated with diverse tasks and environments.