TacSL: 시각과 촉각 센서 시뮬레이션 및 학습을 위한 라이브러리

TacSL: A Library for Visuotactile Sensor Simulation and Learning

August 12, 2024

저자: Iretiayo Akinola, Jie Xu, Jan Carius, Dieter Fox, Yashraj Narang

cs.AI

초록

인간과 로봇 모두에게 접촉이 많은 조작 작업을 수행하는 데 중요한 촉각인 감각인 감각은 로봇의 촉각 감지에서 1) 센서 신호 해석, 2) 새로운 시나리오에서 센서 신호 생성, 3) 센서 기반 정책 학습이라는 세 가지 주요 도전 과제가 있습니다. 시각적 촉각 센서의 경우 해석은 시각 센서(예: RGB 카메라)와의 밀접한 관계로 용이해졌습니다. 그러나 생성은 여전히 어려운데, 시각적 촉각 센서는 일반적으로 접촉, 변형, 조명 및 이미징이 포함되어 있으며 이는 시뮬레이션하기 비용이 많이 듭니다. 따라서 정책 학습은 시뮬레이션을 대규모 데이터 수집에 활용할 수 없기 때문에 어려웠습니다. 저희는 TacSL(taxel)이라는 GPU 기반 시각적 촉각 센서 시뮬레이션 및 학습을 위한 라이브러리를 제공합니다. TacSL을 사용하면 Isaac Gym 시뮬레이터 내에서 이전 최첨단 기술보다 200배 빠르게 시각적 촉각 이미지를 시뮬레이션하고 접촉력 분포를 추출할 수 있습니다. 또한 TacSL은 여러 센서 모델, 접촉 중심의 훈련 환경, 시뮬레이션에서 실제로 전환할 수 있는 온라인/오프라인 알고리즘을 포함한 학습 도구킷을 제공합니다. 알고리즘 측면에서는 시뮬레이션에서 실제로 전환할 수 있는 촉각 기반 정책을 효과적이고 효율적으로 학습하기 위해 설계된 새로운 온라인 강화 학습 알고리즘인 비대칭 액터-크리틱 증류(\sysName)를 소개합니다. 마지막으로, 저희의 라이브러리와 알고리즘의 유용성을 증명하기 위해 증류 및 다중 모달 감지가 접촉이 많은 조작 작업 및 가장 중요한 sim-to-real 전송에 미치는 이점을 평가합니다. 부가 동영상 및 결과는 https://iakinola23.github.io/tacsl/에서 확인할 수 있습니다.

English

For both humans and robots, the sense of touch, known as tactile sensing, is critical for performing contact-rich manipulation tasks. Three key challenges in robotic tactile sensing are 1) interpreting sensor signals, 2) generating sensor signals in novel scenarios, and 3) learning sensor-based policies. For visuotactile sensors, interpretation has been facilitated by their close relationship with vision sensors (e.g., RGB cameras). However, generation is still difficult, as visuotactile sensors typically involve contact, deformation, illumination, and imaging, all of which are expensive to simulate; in turn, policy learning has been challenging, as simulation cannot be leveraged for large-scale data collection. We present TacSL (taxel), a library for GPU-based visuotactile sensor simulation and learning. TacSL can be used to simulate visuotactile images and extract contact-force distributions over 200times faster than the prior state-of-the-art, all within the widely-used Isaac Gym simulator. Furthermore, TacSL provides a learning toolkit containing multiple sensor models, contact-intensive training environments, and online/offline algorithms that can facilitate policy learning for sim-to-real applications. On the algorithmic side, we introduce a novel online reinforcement-learning algorithm called asymmetric actor-critic distillation (\sysName), designed to effectively and efficiently learn tactile-based policies in simulation that can transfer to the real world. Finally, we demonstrate the utility of our library and algorithms by evaluating the benefits of distillation and multimodal sensing for contact-rich manip ulation tasks, and most critically, performing sim-to-real transfer. Supplementary videos and results are at https://iakinola23.github.io/tacsl/.