TreeCUA: Escalonamento Eficiente de Automação de Interface Gráfica com Evolução Verificável em Estrutura de Árvore
TreeCUA: Efficiently Scaling GUI Automation with Tree-Structured Verifiable Evolution
February 10, 2026
Autores: Deyang Jiang, Jing Huang, Xuanle Zhao, Lei Chen, Liming Zheng, Fanfan Liu, Haibo Qiu, Peng Shi, Zhixiong Zeng
cs.AI
Resumo
A escalabilidade eficiente da automação de interface gráfica (GUI) é essencial para agentes de uso computacional (CUAs); no entanto, os trabalhos existentes focam-se principalmente na escalabilidade da ancoragem da GUI, e não no planeamento da GUI, que é mais crucial e exige uma recolha de dados mais sofisticada. Na realidade, o processo de exploração de um CUA através de aplicações/ambientes de trabalho/páginas web segue tipicamente uma estrutura em árvore, em que os pontos de entrada funcionais mais iniciais são geralmente explorados com maior frequência. Assim, organizar trajetórias de grande escala em estruturas arbóreas pode reduzir o custo dos dados e otimizar a escalabilidade de dados para o planeamento da GUI. Neste trabalho, propomos o TreeCUA para escalar eficientemente a automação de GUI com evolução verificável estruturada em árvore. Propomos uma estrutura colaborativa multiagente para explorar o ambiente, verificar ações, resumir trajetórias e avaliar a qualidade, a fim de gerar trajetórias de GUI escaláveis e de alta qualidade. Para melhorar a eficiência, concebemos uma nova topologia baseada em árvore para armazenar e reproduzir nós de exploração duplicados, e projetamos um algoritmo de exploração adaptativa para equilibrar a profundidade (ou seja, a dificuldade da trajetória) e a amplitude (ou seja, a diversidade da trajetória). Além disso, desenvolvemos orientação por conhecimento do mundo e retrocesso com memória global para evitar geração de baixa qualidade. Finalmente, estendemos naturalmente e propomos o método TreeCUA-DPO a partir da abundante informação dos nós da árvore, melhorando a capacidade de planeamento da GUI ao referenciar a informação dos ramos de trajetórias adjacentes. Os resultados experimentais mostram que o TreeCUA e o TreeCUA-DPO oferecem melhorias significativas, e estudos fora do domínio (OOD) demonstram ainda uma forte generalização. Toda a informação dos nós das trajetórias e o código estarão disponíveis em https://github.com/UITron-hub/TreeCUA.
English
Effectively scaling GUI automation is essential for computer-use agents (CUAs); however, existing work primarily focuses on scaling GUI grounding rather than the more crucial GUI planning, which requires more sophisticated data collection. In reality, the exploration process of a CUA across apps/desktops/web pages typically follows a tree structure, with earlier functional entry points often being explored more frequently. Thus, organizing large-scale trajectories into tree structures can reduce data cost and streamline the data scaling of GUI planning. In this work, we propose TreeCUA to efficiently scale GUI automation with tree-structured verifiable evolution. We propose a multi-agent collaborative framework to explore the environment, verify actions, summarize trajectories, and evaluate quality to generate high-quality and scalable GUI trajectories. To improve efficiency, we devise a novel tree-based topology to store and replay duplicate exploration nodes, and design an adaptive exploration algorithm to balance the depth (i.e., trajectory difficulty) and breadth (i.e., trajectory diversity). Moreover, we develop world knowledge guidance and global memory backtracking to avoid low-quality generation. Finally, we naturally extend and propose the TreeCUA-DPO method from abundant tree node information, improving GUI planning capability by referring to the branch information of adjacent trajectories. Experimental results show that TreeCUA and TreeCUA-DPO offer significant improvements, and out-of-domain (OOD) studies further demonstrate strong generalization. All trajectory node information and code will be available at https://github.com/UITron-hub/TreeCUA.