TacSL: Eine Bibliothek für die Simulation und das Lernen von visuotaktilen Sensoren

TacSL: A Library for Visuotactile Sensor Simulation and Learning

August 12, 2024

Autoren: Iretiayo Akinola, Jie Xu, Jan Carius, Dieter Fox, Yashraj Narang

cs.AI

Zusammenfassung

Sowohl für Menschen als auch für Roboter ist der Tastsinn, bekannt als taktiles Sensorik, entscheidend für die Durchführung von berührungsreichen Manipulationstätigkeiten. Drei Schlüsselherausforderungen bei der robotischen taktilen Sensorik sind 1) die Interpretation von Sensorsignalen, 2) die Erzeugung von Sensorsignalen in neuen Szenarien und 3) das Erlernen von sensorbasierten Richtlinien. Bei visuotaktilen Sensoren wurde die Interpretation durch ihre enge Beziehung zu Visionssensoren (z. B. RGB-Kameras) erleichtert. Die Erzeugung ist jedoch immer noch schwierig, da visuotaktile Sensoren in der Regel Kontakt, Verformung, Beleuchtung und Bildgebung beinhalten, die alle teuer zu simulieren sind; wiederum war das Erlernen von Richtlinien herausfordernd, da die Simulation nicht für die Datensammlung im großen Maßstab genutzt werden konnte. Wir stellen TacSL (Taxel) vor, eine Bibliothek für die GPU-basierte Simulation und das Lernen von visuotaktilen Sensoren. TacSL kann verwendet werden, um visuotaktile Bilder zu simulieren und Kontakt-Kraftverteilungen über 200-mal schneller als der bisherige Stand der Technik zu extrahieren, und das alles innerhalb des weit verbreiteten Isaac Gym Simulators. Darüber hinaus bietet TacSL ein Lernwerkzeug, das mehrere Sensormodelle, kontaktintensive Trainingsumgebungen und Online-/Offline-Algorithmen enthält, die das Erlernen von Richtlinien für Sim-zu-Real-Anwendungen erleichtern können. Auf algorithmischer Seite stellen wir einen neuartigen Online-Verstärkungslernalgorithmus namens Asymmetrische Aktor-Kritiker-Destillation (SysName) vor, der darauf ausgelegt ist, taktikbasierte Richtlinien in der Simulation effektiv und effizient zu erlernen, die auf die reale Welt übertragen werden können. Schließlich demonstrieren wir den Nutzen unserer Bibliothek und Algorithmen, indem wir die Vorteile der Destillation und multimodalen Sensorik für berührungsreiche Manipulationstätigkeiten bewerten und am wichtigsten die Sim-zu-Real-Übertragung durchführen. Zusätzliche Videos und Ergebnisse finden Sie unter https://iakinola23.github.io/tacsl/.

English

For both humans and robots, the sense of touch, known as tactile sensing, is critical for performing contact-rich manipulation tasks. Three key challenges in robotic tactile sensing are 1) interpreting sensor signals, 2) generating sensor signals in novel scenarios, and 3) learning sensor-based policies. For visuotactile sensors, interpretation has been facilitated by their close relationship with vision sensors (e.g., RGB cameras). However, generation is still difficult, as visuotactile sensors typically involve contact, deformation, illumination, and imaging, all of which are expensive to simulate; in turn, policy learning has been challenging, as simulation cannot be leveraged for large-scale data collection. We present TacSL (taxel), a library for GPU-based visuotactile sensor simulation and learning. TacSL can be used to simulate visuotactile images and extract contact-force distributions over 200times faster than the prior state-of-the-art, all within the widely-used Isaac Gym simulator. Furthermore, TacSL provides a learning toolkit containing multiple sensor models, contact-intensive training environments, and online/offline algorithms that can facilitate policy learning for sim-to-real applications. On the algorithmic side, we introduce a novel online reinforcement-learning algorithm called asymmetric actor-critic distillation (\sysName), designed to effectively and efficiently learn tactile-based policies in simulation that can transfer to the real world. Finally, we demonstrate the utility of our library and algorithms by evaluating the benefits of distillation and multimodal sensing for contact-rich manip ulation tasks, and most critically, performing sim-to-real transfer. Supplementary videos and results are at https://iakinola23.github.io/tacsl/.