Aguvis: Единые агенты чистого зрения для автономного взаимодействия с графическим интерфейсом пользователя

Aguvis: Unified Pure Vision Agents for Autonomous GUI Interaction

December 5, 2024

Авторы: Yiheng Xu, Zekun Wang, Junli Wang, Dunjie Lu, Tianbao Xie, Amrita Saha, Doyen Sahoo, Tao Yu, Caiming Xiong

cs.AI

Аннотация

Графические пользовательские интерфейсы (GUI) критически важны для взаимодействия человека с компьютером, однако автоматизация задач GUI остается сложной из-за сложности и изменчивости визуальных сред. Существующие подходы часто полагаются на текстовые представления GUI, что вводит ограничения в обобщении, эффективности и масштабируемости. В данной статье мы представляем Aguvis, унифицированный чисто видеоориентированный фреймворк для автономных агентов GUI, работающий на различных платформах. Наш подход использует наблюдения на основе изображений, привязывает инструкции к естественному языку к визуальным элементам и использует единое пространство действий для обеспечения обобщения между платформами. Для преодоления ограничений предыдущих работ мы интегрируем явное планирование и рассуждения в модель, улучшая ее способность автономно перемещаться и взаимодействовать с комплексными цифровыми средами. Мы создаем крупномасштабный набор данных траекторий агентов GUI, включающий мультимодальное рассуждение и привязку, и используем двухэтапный процесс обучения, сначала сосредотачиваясь на общей привязке GUI, а затем на планировании и рассуждениях. Через комплексные эксперименты мы демонстрируем, что Aguvis превосходит предыдущие методы, как в офлайн, так и в реальных онлайн сценариях, достигая, насколько нам известно, первого полностью автономного чисто видеоориентированного агента GUI, способного выполнять задачи независимо без сотрудничества с внешними закрытыми моделями. Мы опубликовали все наборы данных, модели и инструкции по обучению на https://aguvis-project.github.io/.

English

Graphical User Interfaces (GUIs) are critical to human-computer interaction, yet automating GUI tasks remains challenging due to the complexity and variability of visual environments. Existing approaches often rely on textual representations of GUIs, which introduce limitations in generalization, efficiency, and scalability. In this paper, we introduce Aguvis, a unified pure vision-based framework for autonomous GUI agents that operates across various platforms. Our approach leverages image-based observations, and grounding instructions in natural language to visual elements, and employs a consistent action space to ensure cross-platform generalization. To address the limitations of previous work, we integrate explicit planning and reasoning within the model, enhancing its ability to autonomously navigate and interact with complex digital environments. We construct a large-scale dataset of GUI agent trajectories, incorporating multimodal reasoning and grounding, and employ a two-stage training pipeline that first focuses on general GUI grounding, followed by planning and reasoning. Through comprehensive experiments, we demonstrate that Aguvis surpasses previous state-of-the-art methods in both offline and real-world online scenarios, achieving, to our knowledge, the first fully autonomous pure vision GUI agent capable of performing tasks independently without collaboration with external closed-source models. We open-sourced all datasets, models, and training recipes to facilitate future research at https://aguvis-project.github.io/.