Арифметика доменов: однократная адаптация VLA в условиях сдвига окружающей среды

Аннотация

Модели «Видение-Язык-Действие» (Vision-Language-Action, VLA) часто не могут выполнять одни и те же изученные задачи при изменениях окружающей среды, таких как смещение положения камеры или переход на другой, но похожий робот (например, с Panda на UR5e). Адаптация этих моделей к изменённой среде (т.е. целевому домену) обычно требует обучения на нескольких демонстрациях для каждой задачи, что дорогостояще в сборе. Чтобы снизить нагрузку по сбору данных и обучению, мы предлагаем основанный на аналогиях метод адаптации VLA-моделей к изменениям среды с помощью арифметики векторов весов с добавлением специфичной для домена информации — Domain ARiThmetic (DART). В отличие от предыдущих подходов, DART требует сбора всего одной демонстрации, что обеспечивает эффективную адаптацию. Для точного выделения специфичной для домена информации, подлежащей добавлению, DART выполняет выравнивание подпространств между сингулярными компонентами в векторах весов, чтобы отфильтровать зашумленные компоненты. В экспериментах как в симуляции, так и в реальном мире, DART превосходит существующие методы адаптации VLA в сценариях однократного обучения при разнообразных визуальных смещениях и изменениях воплощения. Код доступен по адресу https://github.com/snumprlab/dart.

English

Vision-Language-Action (VLA) models often fail to perform the same learned tasks under environmental shifts, such as changes in camera pose and shifts to a different but similar robot (e.g., from Panda to UR5e). Adapting these models to the shifted environment (i.e., target domain) often requires training on multiple demonstrations for each task, which are costly to collect. To reduce the burden of data curation and training, we propose an analogy-based method that adapts VLA models under environmental shifts through weight vector arithmetic with domain-specific information addition, named Domain ARiThmetic (DART). Unlike prior approaches, DART requires collecting only a single demonstration, enabling efficient adaptation. To accurately isolate domain-specific information for addition, DART performs subspace alignment between singular components in weight vectors to filter out noisy components. In both simulated and real-world experiments, DART outperforms existing VLA adaptation methods in one-shot scenarios across diverse visual and embodiment shifts. Code is available at https://github.com/snumprlab/dart.