WebSailor-V2: Het overbruggen van de kloof naar propriëtaire agents via synthetische data en schaalbare reinforcement learning
WebSailor-V2: Bridging the Chasm to Proprietary Agents via Synthetic Data and Scalable Reinforcement Learning
September 16, 2025
Auteurs: Kuan Li, Zhongwang Zhang, Huifeng Yin, Rui Ye, Yida Zhao, Liwen Zhang, Litu Ou, Dingchu Zhang, Xixi Wu, Jialong Wu, Xinyu Wang, Zile Qiao, Zhen Zhang, Yong Jiang, Pengjun Xie, Fei Huang, Jingren Zhou
cs.AI
Samenvatting
Het overstijgen van menselijke cognitieve beperkingen vormt een cruciaal front in de training van LLM's. Propriëtaire agentische systemen zoals DeepResearch hebben bovenmenselijke prestaties getoond op extreem complexe informatiezoekbenchmarks zoals BrowseComp, een prestatie die voorheen onhaalbaar was. Wij stellen dat hun succes berust op een geavanceerd redeneerpatroon dat afwezig is in open-source modellen: het vermogen om extreme onzekerheid systematisch te verminderen bij het navigeren door uitgestrekte informatielandschappen. Op basis van dit inzicht introduceren we WebSailor, een complete post-trainingsmethodologie ontworpen om deze cruciale capaciteit in te bouwen. Onze aanpak omvat het genereren van nieuwe, hoog-onzekerheidstaken via gestructureerde steekproeven en informatieverduistering, RFT cold start, en een efficiënt agentisch RL-trainingsalgoritme, Duplicating Sampling Policy Optimization (DUPO). Met deze geïntegreerde pijplijn presteert WebSailor aanzienlijk beter dan alle open-source agents in complexe informatiezoektaken, waarbij het de prestaties van propriëtaire agents evenaart en de capaciteitskloof dicht.
English
Transcending human cognitive limitations represents a critical frontier in
LLM training. Proprietary agentic systems like DeepResearch have demonstrated
superhuman capabilities on extremely complex information-seeking benchmarks
such as BrowseComp, a feat previously unattainable. We posit that their success
hinges on a sophisticated reasoning pattern absent in open-source models: the
ability to systematically reduce extreme uncertainty when navigating vast
information landscapes. Based on this insight, we introduce WebSailor, a
complete post-training methodology designed to instill this crucial capability.
Our approach involves generating novel, high-uncertainty tasks through
structured sampling and information obfuscation, RFT cold start, and an
efficient agentic RL training algorithm, Duplicating Sampling Policy
Optimization (DUPO). With this integrated pipeline, WebSailor significantly
outperforms all open-source agents in complex information-seeking tasks,
matching proprietary agents' performance and closing the capability gap.