Aguvis: Agentes de Visión Pura Unificados para la Interacción Autónoma con la GUI

Aguvis: Unified Pure Vision Agents for Autonomous GUI Interaction

December 5, 2024

Autores: Yiheng Xu, Zekun Wang, Junli Wang, Dunjie Lu, Tianbao Xie, Amrita Saha, Doyen Sahoo, Tao Yu, Caiming Xiong

cs.AI

Resumen

Las Interfaces Gráficas de Usuario (GUIs) son fundamentales para la interacción humano-computadora, sin embargo, la automatización de tareas GUI sigue siendo un desafío debido a la complejidad y variabilidad de los entornos visuales. Los enfoques existentes a menudo se basan en representaciones textuales de las GUIs, lo que introduce limitaciones en generalización, eficiencia y escalabilidad. En este documento, presentamos Aguvis, un marco unificado basado puramente en visión para agentes GUI autónomos que operan en diversas plataformas. Nuestro enfoque aprovecha observaciones basadas en imágenes, y vincula instrucciones en lenguaje natural a elementos visuales, y emplea un espacio de acción consistente para garantizar la generalización entre plataformas. Para abordar las limitaciones de trabajos anteriores, integramos planificación y razonamiento explícitos dentro del modelo, mejorando su capacidad para navegar e interactuar autónomamente con entornos digitales complejos. Construimos un conjunto de datos a gran escala de trayectorias de agentes GUI, incorporando razonamiento y vinculación multimodal, y empleamos un proceso de entrenamiento de dos etapas que primero se centra en la vinculación GUI general, seguido de planificación y razonamiento. A través de experimentos exhaustivos, demostramos que Aguvis supera a los métodos anteriores de vanguardia tanto en escenarios fuera de línea como en tiempo real, logrando, hasta donde sabemos, el primer agente GUI autónomo basado únicamente en visión capaz de realizar tareas de forma independiente sin colaboración con modelos externos de código cerrado. Hemos hecho públicos todos los conjuntos de datos, modelos y recetas de entrenamiento para facilitar la investigación futura en https://aguvis-project.github.io/.

English

Graphical User Interfaces (GUIs) are critical to human-computer interaction, yet automating GUI tasks remains challenging due to the complexity and variability of visual environments. Existing approaches often rely on textual representations of GUIs, which introduce limitations in generalization, efficiency, and scalability. In this paper, we introduce Aguvis, a unified pure vision-based framework for autonomous GUI agents that operates across various platforms. Our approach leverages image-based observations, and grounding instructions in natural language to visual elements, and employs a consistent action space to ensure cross-platform generalization. To address the limitations of previous work, we integrate explicit planning and reasoning within the model, enhancing its ability to autonomously navigate and interact with complex digital environments. We construct a large-scale dataset of GUI agent trajectories, incorporating multimodal reasoning and grounding, and employ a two-stage training pipeline that first focuses on general GUI grounding, followed by planning and reasoning. Through comprehensive experiments, we demonstrate that Aguvis surpasses previous state-of-the-art methods in both offline and real-world online scenarios, achieving, to our knowledge, the first fully autonomous pure vision GUI agent capable of performing tasks independently without collaboration with external closed-source models. We open-sourced all datasets, models, and training recipes to facilitate future research at https://aguvis-project.github.io/.