Lernen, sich zu bewegen, bevor man lernt, zu handeln: Aufgabenagnostisches Vortraining für VLAs

Zusammenfassung

Vision-Language-Action-Modelle (VLA-Modelle) werden grundlegend durch die Knappheit an Experten-Demonstrationen eingeschränkt – Tripel aus Beobachtungen, Anweisungen und Aktionen, deren Erhebung in großem Maßstab kostspielig ist. Wir argumentieren, dass dieser Engpass aus der Vermischung zweier unterschiedlicher Lernziele resultiert: dem Erwerb physischer Kompetenz (wie man sich bewegt) und dem Erwerb semantischer Ausrichtung (was zu tun ist). Entscheidend ist, dass nur letzteres sprachliche Überwachung erfordert. Aufbauend auf dieser Dekompositionshypothese schlagen wir Task-Agnostic Pretraining (TAP) vor, ein zweistufiges Framework, das zunächst übertragbare motorische Priors aus kostengünstigen, unlabeled Interaktionsdaten lernt – einschließlich verworfenen Off-Task-Trajektorien und autonomem Roboterspiel – mittels eines selbstüberwachten Inverse-Dynamics-Ziels. In einer zweiten, ressourcenschonenden Stufe werden diese Priors dann mit minimalen Expertendaten sprachlich verankert. Auf dem SIMPLER-Benchmark erreicht TAP die Leistung von Modellen, die auf über 1 Million Experten-Trajektorien trainiert wurden, während es um Größenordnungen weniger gelabelte Daten verwendet, was einem absoluten Gewinn von 10% gegenüber standardmäßigem Verhaltensklonen entspricht. Auf einer realen WidowX-Plattform behält TAP unter Kamerastörungen eine Erfolgsrate von 25%, während internetweite Baselines auf 0% einbrechen, was zeigt, dass aufgabenagnostisches Vortraining robuste, übertragbare physische Repräsentationen hervorbringt und einen skalierbaren Weg für die Embodied AI darstellt.

English

Vision-Language-Action (VLA) models are fundamentally bottlenecked by the scarcity of expert demonstrations -- triplets of observations, instructions, and actions that are costly to collect at scale. We argue that this bottleneck stems from conflating two distinct learning objectives: acquiring physical competence (how to move) and acquiring semantic alignment (what to do). Crucially, only the latter requires language supervision. Building on this Decomposition Hypothesis, we propose Task-Agnostic Pretraining (TAP), a two-stage framework that first learns transferable motor priors from cheap, unlabeled interaction data -- including discarded off-task trajectories and autonomous robot play -- via a self-supervised Inverse Dynamics objective. A lightweight second stage then grounds these priors in language using minimal expert data. On the SIMPLER benchmark, TAP matches models trained on over 1M expert trajectories while using orders of magnitude less labeled data, yielding a 10% absolute gain over standard behavior cloning. On a real-world WidowX platform, TAP retains 25% success under camera perturbations where internet-scale baselines collapse to 0%, demonstrating that task-agnostic pretraining produces robust, transferable physical representations and offers a scalable path forward for Embodied AI.