PANDO: Efficiënte multimodale AI-agenten via online vaardigheidsdistillatie

Samenvatting

Recente vooruitgang in multimodale webagenten vertrouwt vaak op verhoogde inferentie-tijdberekening, waaronder rollout-search, verifier-passes, offline vaardigheidsontdekking en specialistische modelstacks. Dit roept een centrale vraag op: kan een webagent efficiënter worden naarmate het ervaring opdoet, in plaats van duurder? We analyseren eerst trajecten van VisualWebArena en identificeren drie terugkerende bronnen van inefficiëntie: herhaal-actielussen, verborgen ontdekkingskosten en lage prompt-cache-hergebruik. We introduceren vervolgens PANDO, een single-rollout online vaardigheidsdestillatiekader dat een gestructureerde Vaardigheidsbibliotheek onderhoudt en voortgangsreflectie, vertrouwensgebaseerde vaardigheidsdegradatie, hiërarchische routering, visuele compressie en cache-bewuste prompting combineert. Op de volledige set van 910 VisualWebArena-taken behaalt PANDO een succespercentage van 58,3%, beter dan SGV (54,0%) en onze WALT-reproductie (45,2%), terwijl het 58% minder tokens gebruikt dan SGV en 61% minder tokens dan WALT, zonder enig pre-evaluatie-ontdekkingsbudget. Een ablatiestudie met 300 taken toont verder aan dat regels en routines de meeste succeswinst opleveren, terwijl routering, compressie en cache-bewuste prompting de grotere vaardigheidsbibliotheek omzetten in lagere marginale tokenkosten. Tot slot introduceren we drie efficiëntiemetrieken op trajectniveau -- Actieherhalingsfrequentie, Stapoverheadratio en Prompt-Cache-Benuttingsgraad -- om efficiëntie zichtbaar te maken naast eindsucces.

English

Recent advances in multimodal web agents often rely on increased inference-time computation, including rollout search, verifier passes, offline skill discovery, and specialist model stacks. This raises a central question: can a web agent become more efficient as it accumulates experience, rather than more expensive? We first analyze trajectories from VisualWebArena and identify three recurring sources of inefficiency: repeat-action loops, hidden discovery costs, and low prompt-cache reuse. We then introduce PANDO, a single-rollout online skill-distillation framework that maintains a structured Skill Library and combines progress reflection, confidence-based skill demotion, hierarchical routing, visual compression, and cache-aware prompting. On the full set of 910 VisualWebArena tasks, PANDO achieves a 58.3% success rate, outperforming SGV (54.0%) and our WALT reproduction (45.2%), while using 58% fewer tokens than SGV and 61% fewer tokens than WALT, without any pre-evaluation discovery budget. A 300-task ablation further shows that rules and routines provide most of the success gains, while routing, compression, and cache-aware prompting convert the larger skill library into lower marginal token cost. Finally, we introduce three trajectory-level efficiency metrics -- Action Repetition Rate, Step Overhead Ratio, and Prompt Cache Utilization -- to make efficiency visible beyond terminal success.