Aguvis: Vereinheitlichte reine Vision-Agenten für autonome GUI-Interaktion

Aguvis: Unified Pure Vision Agents for Autonomous GUI Interaction

December 5, 2024

Autoren: Yiheng Xu, Zekun Wang, Junli Wang, Dunjie Lu, Tianbao Xie, Amrita Saha, Doyen Sahoo, Tao Yu, Caiming Xiong

cs.AI

Zusammenfassung

Graphische Benutzeroberflächen (GUIs) sind entscheidend für die Mensch-Computer-Interaktion, aber die Automatisierung von GUI-Aufgaben bleibt aufgrund der Komplexität und Variabilität visueller Umgebungen herausfordernd. Bestehende Ansätze stützen sich oft auf textuelle Darstellungen von GUIs, die Einschränkungen bei der Verallgemeinerung, Effizienz und Skalierbarkeit mit sich bringen. In diesem Artikel stellen wir Aguvis vor, ein vereinheitlichtes, rein auf Vision basierendes Framework für autonome GUI-Agenten, das auf verschiedenen Plattformen funktioniert. Unser Ansatz nutzt bildbasierte Beobachtungen, verankert Anweisungen in natürlicher Sprache an visuelle Elemente und verwendet einen konsistenten Aktionsraum, um eine plattformübergreifende Verallgemeinerung sicherzustellen. Um die Einschränkungen früherer Arbeiten zu bewältigen, integrieren wir explizite Planung und Schlussfolgerung in das Modell, um seine Fähigkeit zur autonomen Navigation und Interaktion mit komplexen digitalen Umgebungen zu verbessern. Wir erstellen einen umfangreichen Datensatz von GUI-Agenten-Trajektorien, der multimodales Denken und Verankern einbezieht, und verwenden einen zweistufigen Schulungsprozess, der sich zunächst auf die allgemeine GUI-Verankerung konzentriert, gefolgt von Planung und Schlussfolgerung. Durch umfassende Experimente zeigen wir, dass Aguvis frühere State-of-the-Art-Methoden sowohl in Offline- als auch in Echtzeit-Online-Szenarien übertrifft und als erster vollständig autonomer, rein visueller GUI-Agent bekanntermaßen Aufgaben eigenständig ausführen kann, ohne mit externen Closed-Source-Modellen zusammenarbeiten zu müssen. Wir haben alle Datensätze, Modelle und Schulungsanleitungen als Open Source veröffentlicht, um zukünftige Forschung zu unterstützen unter https://aguvis-project.github.io/.

English

Graphical User Interfaces (GUIs) are critical to human-computer interaction, yet automating GUI tasks remains challenging due to the complexity and variability of visual environments. Existing approaches often rely on textual representations of GUIs, which introduce limitations in generalization, efficiency, and scalability. In this paper, we introduce Aguvis, a unified pure vision-based framework for autonomous GUI agents that operates across various platforms. Our approach leverages image-based observations, and grounding instructions in natural language to visual elements, and employs a consistent action space to ensure cross-platform generalization. To address the limitations of previous work, we integrate explicit planning and reasoning within the model, enhancing its ability to autonomously navigate and interact with complex digital environments. We construct a large-scale dataset of GUI agent trajectories, incorporating multimodal reasoning and grounding, and employ a two-stage training pipeline that first focuses on general GUI grounding, followed by planning and reasoning. Through comprehensive experiments, we demonstrate that Aguvis surpasses previous state-of-the-art methods in both offline and real-world online scenarios, achieving, to our knowledge, the first fully autonomous pure vision GUI agent capable of performing tasks independently without collaboration with external closed-source models. We open-sourced all datasets, models, and training recipes to facilitate future research at https://aguvis-project.github.io/.