Aguvis: Agentes de Visão Pura Unificados para Interação Autônoma com GUI

Aguvis: Unified Pure Vision Agents for Autonomous GUI Interaction

December 5, 2024

Autores: Yiheng Xu, Zekun Wang, Junli Wang, Dunjie Lu, Tianbao Xie, Amrita Saha, Doyen Sahoo, Tao Yu, Caiming Xiong

cs.AI

Resumo

As Interfaces Gráficas de Usuário (GUIs) são fundamentais para a interação humano-computador, no entanto, automatizar tarefas de GUI ainda é desafiador devido à complexidade e variabilidade dos ambientes visuais. Abordagens existentes frequentemente se baseiam em representações textuais de GUIs, o que introduz limitações em termos de generalização, eficiência e escalabilidade. Neste artigo, apresentamos Aguvis, um framework unificado puramente baseado em visão para agentes de GUI autônomos que operam em diversas plataformas. Nossa abordagem aproveita observações baseadas em imagens, ancorando instruções em linguagem natural aos elementos visuais, e emprega um espaço de ação consistente para garantir generalização entre plataformas. Para lidar com as limitações de trabalhos anteriores, integramos planejamento e raciocínio explícitos no modelo, aprimorando sua capacidade de navegar e interagir autonomamente com ambientes digitais complexos. Construímos um conjunto de dados em larga escala com trajetórias de agentes de GUI, incorporando raciocínio e ancoragem multimodais, e utilizamos um pipeline de treinamento em duas etapas que inicialmente se concentra na ancoragem geral de GUI, seguida por planejamento e raciocínio. Através de experimentos abrangentes, demonstramos que Aguvis supera métodos anteriores de ponta tanto em cenários offline quanto online do mundo real, alcançando, até onde sabemos, o primeiro agente de GUI puramente baseado em visão totalmente autônomo capaz de realizar tarefas independentemente sem colaboração com modelos externos de código fechado. Disponibilizamos todos os conjuntos de dados, modelos e receitas de treinamento em código aberto para facilitar pesquisas futuras em https://aguvis-project.github.io/.

English

Graphical User Interfaces (GUIs) are critical to human-computer interaction, yet automating GUI tasks remains challenging due to the complexity and variability of visual environments. Existing approaches often rely on textual representations of GUIs, which introduce limitations in generalization, efficiency, and scalability. In this paper, we introduce Aguvis, a unified pure vision-based framework for autonomous GUI agents that operates across various platforms. Our approach leverages image-based observations, and grounding instructions in natural language to visual elements, and employs a consistent action space to ensure cross-platform generalization. To address the limitations of previous work, we integrate explicit planning and reasoning within the model, enhancing its ability to autonomously navigate and interact with complex digital environments. We construct a large-scale dataset of GUI agent trajectories, incorporating multimodal reasoning and grounding, and employ a two-stage training pipeline that first focuses on general GUI grounding, followed by planning and reasoning. Through comprehensive experiments, we demonstrate that Aguvis surpasses previous state-of-the-art methods in both offline and real-world online scenarios, achieving, to our knowledge, the first fully autonomous pure vision GUI agent capable of performing tasks independently without collaboration with external closed-source models. We open-sourced all datasets, models, and training recipes to facilitate future research at https://aguvis-project.github.io/.