Aguvis : Agents de Vision Pure Unifiée pour l'Interaction Autonome avec l'IHM

Aguvis: Unified Pure Vision Agents for Autonomous GUI Interaction

December 5, 2024

Auteurs: Yiheng Xu, Zekun Wang, Junli Wang, Dunjie Lu, Tianbao Xie, Amrita Saha, Doyen Sahoo, Tao Yu, Caiming Xiong

cs.AI

Résumé

Les Interfaces Utilisateur Graphiques (IUG) sont essentielles pour l'interaction homme-machine, mais l'automatisation des tâches des IUG reste difficile en raison de la complexité et de la variabilité des environnements visuels. Les approches existantes reposent souvent sur des représentations textuelles des IUG, ce qui introduit des limitations en termes de généralisation, d'efficacité et de scalabilité. Dans cet article, nous présentons Aguvis, un cadre unifié basé uniquement sur la vision pour les agents IUG autonomes qui fonctionne sur différentes plateformes. Notre approche exploite les observations basées sur l'image, et l'ancrage des instructions dans le langage naturel aux éléments visuels, et utilise un espace d'actions cohérent pour assurer une généralisation interplateforme. Pour pallier aux limitations des travaux précédents, nous intégrons une planification explicite et un raisonnement dans le modèle, améliorant ainsi sa capacité à naviguer et interagir de manière autonome avec des environnements numériques complexes. Nous construisons un ensemble de données à grande échelle des trajectoires des agents IUG, en incorporant un raisonnement multimodal et un ancrage, et utilisons un pipeline d'entraînement en deux étapes qui se concentre d'abord sur l'ancrage général des IUG, suivi de la planification et du raisonnement. À travers des expériences approfondies, nous démontrons qu'Aguvis surpasse les méthodes précédentes de pointe à la fois dans des scénarios hors ligne et en ligne du monde réel, atteignant, à notre connaissance, le premier agent IUG purement basé sur la vision entièrement autonome capable d'accomplir des tâches de manière indépendante sans collaboration avec des modèles externes propriétaires. Nous avons rendu open source tous les ensembles de données, modèles et recettes d'entraînement pour faciliter les futures recherches sur https://aguvis-project.github.io/.

English

Graphical User Interfaces (GUIs) are critical to human-computer interaction, yet automating GUI tasks remains challenging due to the complexity and variability of visual environments. Existing approaches often rely on textual representations of GUIs, which introduce limitations in generalization, efficiency, and scalability. In this paper, we introduce Aguvis, a unified pure vision-based framework for autonomous GUI agents that operates across various platforms. Our approach leverages image-based observations, and grounding instructions in natural language to visual elements, and employs a consistent action space to ensure cross-platform generalization. To address the limitations of previous work, we integrate explicit planning and reasoning within the model, enhancing its ability to autonomously navigate and interact with complex digital environments. We construct a large-scale dataset of GUI agent trajectories, incorporating multimodal reasoning and grounding, and employ a two-stage training pipeline that first focuses on general GUI grounding, followed by planning and reasoning. Through comprehensive experiments, we demonstrate that Aguvis surpasses previous state-of-the-art methods in both offline and real-world online scenarios, achieving, to our knowledge, the first fully autonomous pure vision GUI agent capable of performing tasks independently without collaboration with external closed-source models. We open-sourced all datasets, models, and training recipes to facilitate future research at https://aguvis-project.github.io/.