UI-TARS-2 Technisch Rapport: Vooruitgang in GUI-agent met Multi-Turn Reinforcement Learning

UI-TARS-2 Technical Report: Advancing GUI Agent with Multi-Turn Reinforcement Learning

September 2, 2025

Auteurs: Haoming Wang, Haoyang Zou, Huatong Song, Jiazhan Feng, Junjie Fang, Junting Lu, Longxiang Liu, Qinyu Luo, Shihao Liang, Shijue Huang, Wanjun Zhong, Yining Ye, Yujia Qin, Yuwen Xiong, Yuxin Song, Zhiyong Wu, Bo Li, Chen Dun, Chong Liu, Fuxing Leng, Hanbin Wang, Hao Yu, Haobin Chen, Hongyi Guo, Jing Su, Jingjia Huang, Kai Shen, Kaiyu Shi, Lin Yan, Peiyao Zhao, Pengfei Liu, Qinghao Ye, Renjie Zheng, Wayne Xin Zhao, Wen Heng, Wenhao Huang, Wenqian Wang, Xiaobo Qin, Yi Lin, Youbin Wu, Zehui Chen, Zihao Wang, Baoquan Zhong, Xinchun Zhang, Xujing Li, Yuanfan Li, Zhongkai Zhao, Chengquan Jiang, Faming Wu, Haotian Zhou, Jinlin Pang, Li Han, Qianli Ma, Siyao Liu, Songhua Cai, Wenqi Fu, Xin Liu, Zhi Zhang, Bo Zhou, Guoliang Li, Jiajun Shi, Jiale Yang, Jie Tang, Li Li, Taoran Lu, Woyu Lin, Xiaokang Tong, Xinyao Li, Yichi Zhang, Yu Miao, Zhengxuan Jiang, Zili Li, Ziyuan Zhao, Chenxin Li, Dehua Ma, Feng Lin, Ge Zhang, Haihua Yang, Hangyu Guo, Hongda Zhu, Jiaheng Liu, Junda Du, Kai Cai, Kuanye Li, Lichen Yuan, Meilan Han, Minchao Wang, Shuyue Guo, Tianhao Cheng, Xiaobo Ma, Xiaojun Xiao, Xiaolong Huang, Xinjie Chen, Yidi Du, Yilin Chen, Yiwen Wang, Zhaojian Li, Zhenzhu Yang, Zhiyuan Zeng, Chaolin Jin, Chen Li, Hao Chen, Haoli Chen, Jian Chen, Qinghao Zhao, Guang Shi

cs.AI

Samenvatting

De ontwikkeling van autonome agents voor grafische gebruikersinterfaces (GUI's) vormt een grote uitdaging binnen kunstmatige intelligentie. Hoewel recente vooruitgang in native agentmodellen veelbelovend is gebleken door perceptie, redenering, actie en geheugen te verenigen via end-to-end leren, blijven er open problemen bestaan op het gebied van dataschaalbaarheid, multi-turn reinforcement learning (RL), de beperkingen van puur GUI-gebaseerde werking en omgevingsstabiliteit. In dit technische rapport presenteren we UI-TARS-2, een native GUI-gericht agentmodel dat deze uitdagingen aanpakt via een systematische trainingsmethodologie: een dataflywheel voor schaalbare datageneratie, een gestabiliseerd multi-turn RL-framework, een hybride GUI-omgeving die bestandssystemen en terminals integreert, en een uniform sandboxplatform voor grootschalige rollouts. Empirische evaluatie toont aan dat UI-TARS-2 significante verbeteringen behaalt ten opzichte van zijn voorganger UI-TARS-1.5. Op GUI-benchmarks bereikt het 88,2 op Online-Mind2Web, 47,5 op OSWorld, 50,6 op WindowsAgentArena en 73,3 op AndroidWorld, waarmee het sterke baselines zoals Claude en OpenAI-agents overtreft. In game-omgevingen behaalt het een gemiddelde genormaliseerde score van 59,8 over een suite van 15 games—ongeveer 60% van het menselijke prestatieniveau—en blijft het concurrerend met toonaangevende propriëtaire modellen (bijv. OpenAI o3) op LMGame-Bench. Daarnaast kan het model generaliseren naar langetermijn-informatiezoekende taken en software-engineeringbenchmarks, wat zijn robuustheid over diverse agenttaken benadrukt. Gedetailleerde analyses van de trainingsdynamiek bieden verder inzicht in het bereiken van stabiliteit en efficiëntie bij grootschalige agent-RL. Deze resultaten onderstrepen het potentieel van UI-TARS-2 om de stand van GUI-agents vooruit te helpen en sterke generalisatie naar real-world interactieve scenario's te tonen.

English

The development of autonomous agents for graphical user interfaces (GUIs) presents major challenges in artificial intelligence. While recent advances in native agent models have shown promise by unifying perception, reasoning, action, and memory through end-to-end learning, open problems remain in data scalability, multi-turn reinforcement learning (RL), the limitations of GUI-only operation, and environment stability. In this technical report, we present UI-TARS-2, a native GUI-centered agent model that addresses these challenges through a systematic training methodology: a data flywheel for scalable data generation, a stabilized multi-turn RL framework, a hybrid GUI environment that integrates file systems and terminals, and a unified sandbox platform for large-scale rollouts. Empirical evaluation demonstrates that UI-TARS-2 achieves significant improvements over its predecessor UI-TARS-1.5. On GUI benchmarks, it reaches 88.2 on Online-Mind2Web, 47.5 on OSWorld, 50.6 on WindowsAgentArena, and 73.3 on AndroidWorld, outperforming strong baselines such as Claude and OpenAI agents. In game environments, it attains a mean normalized score of 59.8 across a 15-game suite-roughly 60% of human-level performance-and remains competitive with frontier proprietary models (e.g., OpenAI o3) on LMGame-Bench. Additionally, the model can generalize to long-horizon information-seeking tasks and software engineering benchmarks, highlighting its robustness across diverse agent tasks. Detailed analyses of training dynamics further provide insights into achieving stability and efficiency in large-scale agent RL. These results underscore UI-TARS-2's potential to advance the state of GUI agents and exhibit strong generalization to real-world interactive scenarios.