CODA: Coordinazione del Cervello e del Cervelletto per un Agente Informatico a Doppio Cervello con Apprendimento per Rinforzo Disaccoppiato

CODA: Coordinating the Cerebrum and Cerebellum for a Dual-Brain Computer Use Agent with Decoupled Reinforcement Learning

August 27, 2025

Autori: Zeyi Sun, Yuhang Cao, Jianze Liang, Qiushi Sun, Ziyu Liu, Zhixiong Zhang, Yuhang Zang, Xiaoyi Dong, Kai Chen, Dahua Lin, Jiaqi Wang

cs.AI

Abstract

Gli agenti autonomi per le interfacce grafiche (GUI) affrontano sfide significative in domini specializzati come il calcolo scientifico, dove sono richiesti sia una pianificazione a lungo termine che un'esecuzione precisa. Gli approcci esistenti presentano un compromesso: gli agenti generalisti eccellono nella pianificazione ma hanno scarse prestazioni nell'esecuzione, mentre gli agenti specializzati mostrano il difetto opposto. Recenti framework compositivi cercano di colmare questa lacuna combinando un pianificatore e un attore, ma sono tipicamente statici e non addestrabili, il che impedisce l'adattamento basato sull'esperienza. Questa è una limitazione critica data la scarsità di dati di alta qualità nei domini scientifici. Per affrontare queste limitazioni, introduciamo CODA, un nuovo framework compositivo addestrabile che integra un pianificatore generalista (Cerebrum) con un esecutore specialista (Cerebellum), addestrato tramite una pipeline dedicata in due fasi. Nella prima fase, Specializzazione, applichiamo un approccio GRPO disaccoppiato per addestrare un pianificatore esperto per ciascuna applicazione scientifica individualmente, partendo da un piccolo insieme di traiettorie di compiti. Nella seconda fase, Generalizzazione, aggregiamo tutte le traiettorie di successo degli esperti specializzati per costruire un dataset consolidato, che viene poi utilizzato per il fine-tuning supervisionato del pianificatore finale. Questo conferisce a CODA sia un'esecuzione robusta che una generalizzazione cross-dominio. Valutato su quattro applicazioni impegnative del benchmark ScienceBoard, CODA supera significativamente i baseline e stabilisce un nuovo stato dell'arte tra i modelli open-source.

English

Autonomous agents for Graphical User Interfaces (GUIs) face significant challenges in specialized domains such as scientific computing, where both long-horizon planning and precise execution are required. Existing approaches suffer from a trade-off: generalist agents excel at planning but perform poorly in execution, while specialized agents demonstrate the opposite weakness. Recent compositional frameworks attempt to bridge this gap by combining a planner and an actor, but they are typically static and non-trainable, which prevents adaptation from experience. This is a critical limitation given the scarcity of high-quality data in scientific domains. To address these limitations, we introduce CODA, a novel and trainable compositional framework that integrates a generalist planner (Cerebrum) with a specialist executor (Cerebellum), trained via a dedicated two-stage pipeline. In the first stage, Specialization, we apply a decoupled GRPO approach to train an expert planner for each scientific application individually, bootstrapping from a small set of task trajectories. In the second stage, Generalization, we aggregate all successful trajectories from the specialized experts to build a consolidated dataset, which is then used for supervised fine-tuning of the final planner. This equips CODA with both robust execution and cross-domain generalization. Evaluated on four challenging applications from the ScienceBoard benchmark, CODA significantly outperforms baselines and establishes a new state of the art among open-source models.