OmniTacTune: независимая от политики RL в реальном мире для тактильной остаточной адаптации визуальных политик

Аннотация

Визуальные политики, обученные на видео человека, телеуправлении и робототехнических демонстрациях, предлагают масштабируемые априорные представления о движениях, но часто терпят неудачу в контактно-зависимом манипулировании, где успех существенно зависит от локальных сил и геометрии контакта. Тактильная сенсорика предоставляет эти дополнительные сигналы, однако тактильные данные остаются дорогостоящими в сборе и трудно обобщаются между сенсорами, роботами и задачами. Мы представляем OmniTacTune — не зависящий от политики конвейер обучения с подкреплением в реальном мире, который адаптирует тактильную обратную связь к предобученным визуальным политикам посредством остаточной коррекции. OmniTacTune использует двухэтапную конструкцию: сначала он инициализирует тактильно-осведомлённое обучение на основе автономных проигрываний базовой политики, а затем изучает лёгкую тактильную остаточную политику посредством онлайн-взаимодействия. Обширные эксперименты показывают, что OmniTacTune обобщается на различные контактно-зависимые задачи, визуальные базовые политики и тактильные представления. В четырёх реальных задачах с интенсивным контактом он повышает успешность визуальных базовых политик с 5–40% до 85–100% в течение 40–80 минут, демонстрируя эффективный путь адаптации тактильной обратной связи к масштабируемым визуальным робототехническим политикам. Страница проекта: https://colinyu1.github.io/omnitactune-site/

English

Visual policies learned from human videos, teleoperation, and robot demonstrations offer scalable motion priors, but often fail in contact-rich manipulation, where success significantly depends on local force and contact geometry. Tactile sensing provides these complementary signals, yet tactile data remain costly to collect and hard to generalize across sensors, robots, and tasks. We introduce OmniTacTune, a policy-agnostic real-world RL pipeline that adapts tactile feedback to pretrained visual policies through residual correction. OmniTacTune uses a two-stage design: it first bootstraps tactile-aware learning from autonomous base-policy rollouts, then learns a lightweight tactile residual policy through online interaction. Extensive experiments show that OmniTacTune generalizes across diverse contact-rich tasks, visual base policies, and tactile representations. Across four real-world contact-rich tasks, it improves visual base policies from 5-40% success to 85-100% within 40-80 minutes, demonstrating an efficient path for adapting tactile feedback to scalable visual robot policies. Project page: https://colinyu1.github.io/omnitactune-site/