GET-Zero : Transformateur d'incarnation graphique pour la généralisation d'incarnation en zéro-shot

GET-Zero: Graph Embodiment Transformer for Zero-shot Embodiment Generalization

July 20, 2024

Auteurs: Austin Patel, Shuran Song

cs.AI

Résumé

Cet article présente GET-Zero, une architecture de modèle et une procédure d'entraînement pour apprendre une politique de contrôle consciente de l'incarnation, capable de s'adapter immédiatement à de nouveaux changements matériels sans nécessiter de réentraînement. Pour ce faire, nous introduisons le Graph Embodiment Transformer (GET), un modèle de type transformer qui exploite la connectivité du graphe d'incarnation comme biais structurel appris dans le mécanisme d'attention. Nous utilisons le clonage comportemental pour distiller des données de démonstration provenant de politiques expertes spécifiques à l'incarnation dans un modèle GET conscient de l'incarnation, qui prend en compte la configuration matérielle du robot pour prendre des décisions de contrôle. Nous menons une étude de cas sur une tâche de rotation dextre d'un objet dans la main en utilisant différentes configurations d'une main robotique à quatre doigts avec des articulations supprimées et des extensions de longueur de lien. L'utilisation du modèle GET, combinée à une fonction de perte d'auto-modélisation, permet à GET-Zero de généraliser en zero-shot à des variations inédites de la structure du graphe et de la longueur des liens, offrant ainsi une amélioration de 20 % par rapport aux méthodes de référence. Tout le code et les résultats vidéo qualitatifs sont disponibles sur https://get-zero-paper.github.io.

English

This paper introduces GET-Zero, a model architecture and training procedure for learning an embodiment-aware control policy that can immediately adapt to new hardware changes without retraining. To do so, we present Graph Embodiment Transformer (GET), a transformer model that leverages the embodiment graph connectivity as a learned structural bias in the attention mechanism. We use behavior cloning to distill demonstration data from embodiment-specific expert policies into an embodiment-aware GET model that conditions on the hardware configuration of the robot to make control decisions. We conduct a case study on a dexterous in-hand object rotation task using different configurations of a four-fingered robot hand with joints removed and with link length extensions. Using the GET model along with a self-modeling loss enables GET-Zero to zero-shot generalize to unseen variation in graph structure and link length, yielding a 20% improvement over baseline methods. All code and qualitative video results are on https://get-zero-paper.github.io