Effizientes Agententraining für die Computernutzung

Efficient Agent Training for Computer Use

May 20, 2025

Autoren: Yanheng He, Jiahe Jin, Pengfei Liu

cs.AI

Zusammenfassung

Die Skalierung hochwertiger Trajektoriendaten war lange Zeit ein entscheidender Engpass bei der Entwicklung von menschenähnlichen Computer-Nutzungsagenten. Wir stellen PC Agent-E vor, ein effizientes Framework für das Training von Agenten, das die Abhängigkeit von groß angelegten menschlichen Demonstrationen erheblich reduziert. Ausgehend von nur 312 menschlich annotierten Computer-Nutzungstrajektorien verbesserten wir die Datenqualität weiter, indem wir vielfältige Aktionsentscheidungen mit Claude 3.7 Sonnet synthetisierten. Auf diesen angereicherten Trajektorien trainiert, erzielte unser PC Agent-E-Modell eine bemerkenswerte relative Verbesserung von 141 % und übertraf dabei den starken Claude 3.7 Sonnet mit erweitertem Denken auf WindowsAgentArena-V2, einem verbesserten Benchmark, den wir ebenfalls veröffentlicht haben. Darüber hinaus zeigt PC Agent-E eine starke Generalisierbarkeit auf verschiedene Betriebssysteme in OSWorld. Unsere Ergebnisse deuten darauf hin, dass leistungsstarke Computer-Nutzungsfähigkeiten durch eine kleine Menge hochwertiger Trajektoriendaten stimuliert werden können.

English

Scaling up high-quality trajectory data has long been a critical bottleneck for developing human-like computer use agents. We introduce PC Agent-E, an efficient agent training framework that significantly reduces reliance on large-scale human demonstrations. Starting with just 312 human-annotated computer use trajectories, we further improved data quality by synthesizing diverse action decisions with Claude 3.7 Sonnet. Trained on these enriched trajectories, our PC Agent-E model achieved a remarkable 141% relative improvement, surpassing the strong Claude 3.7 Sonnet with extended thinking on WindowsAgentArena-V2, an improved benchmark we also released. Furthermore, PC Agent-E demonstrates strong generalizability to different operating systems on OSWorld. Our findings suggest that strong computer use capabilities can be stimulated from a small amount of high-quality trajectory data.