OmniTacTune : Apprentissage par renforcement en environnement réel indépendant de la politique pour l'adaptation résiduelle tactile des politiques visuelles

Résumé

Les politiques visuelles apprises à partir de vidéos humaines, de téléopération et de démonstrations robotiques offrent des a priori de mouvement évolutifs, mais échouent souvent dans les manipulations impliquant des contacts riches, où le succès dépend fortement des forces locales et de la géométrie du contact. La perception tactile fournit ces signaux complémentaires, mais les données tactiles restent coûteuses à collecter et difficiles à généraliser entre capteurs, robots et tâches. Nous introduisons OmniTacTune, un pipeline d'apprentissage par renforcement (RL) dans le monde réel, indépendant de la politique, qui adapte le retour tactile aux politiques visuelles pré-entraînées via une correction résiduelle. OmniTacTune adopte une conception en deux étapes : il amorce d'abord un apprentissage sensible au tactile à partir de roulages autonomes de la politique de base, puis apprend une politique tactile résiduelle légère via une interaction en ligne. Des expériences approfondies montrent qu'OmniTacTune se généralise à diverses tâches riches en contacts, politiques visuelles de base et représentations tactiles. Sur quatre tâches réelles impliquant des contacts riches, il améliore les politiques visuelles de base, passant de 5-40 % de succès à 85-100 % en 40 à 80 minutes, démontrant ainsi une voie efficace pour adapter le retour tactile aux politiques robotiques visuelles évolutives. Page du projet : https://colinyu1.github.io/omnitactune-site/

English

Visual policies learned from human videos, teleoperation, and robot demonstrations offer scalable motion priors, but often fail in contact-rich manipulation, where success significantly depends on local force and contact geometry. Tactile sensing provides these complementary signals, yet tactile data remain costly to collect and hard to generalize across sensors, robots, and tasks. We introduce OmniTacTune, a policy-agnostic real-world RL pipeline that adapts tactile feedback to pretrained visual policies through residual correction. OmniTacTune uses a two-stage design: it first bootstraps tactile-aware learning from autonomous base-policy rollouts, then learns a lightweight tactile residual policy through online interaction. Extensive experiments show that OmniTacTune generalizes across diverse contact-rich tasks, visual base policies, and tactile representations. Across four real-world contact-rich tasks, it improves visual base policies from 5-40% success to 85-100% within 40-80 minutes, demonstrating an efficient path for adapting tactile feedback to scalable visual robot policies. Project page: https://colinyu1.github.io/omnitactune-site/