PANDO: オンラインスキル蒸留による効率的なマルチモーダルAIエージェント

要旨

マルチモーダルWebエージェントの最近の進歩は、多くの場合、推論時計算の増加に依存しています。これには、ロールアウト探索、検証パス、オフラインスキル発見、専門モデルスタックなどが含まれます。このことは中心的な疑問を提起します。Webエージェントは、経験を蓄積するにつれて、よりコストがかかるようになるのではなく、より効率的になることができるのでしょうか？我々はまず、VisualWebArenaの軌跡を分析し、非効率性の3つの反復的な原因を特定します。それは、アクション反復ループ、隠れた探索コスト、および低いプロンプトキャッシュ再利用です。次に、構造化されたスキルライブラリを維持し、進捗状況の振り返り、信頼度に基づくスキルの降格、階層的ルーティング、視覚的圧縮、およびキャッシュ認識型プロンプティングを組み合わせた、シングルロールアウトのオンラインスキル蒸留フレームワークであるPANDOを紹介します。 910のVisualWebArenaタスクの全セットにおいて、PANDOは58.3%の成功率を達成し、SGV（54.0%）と我々のWALT再現（45.2%）を上回りながら、SGVより58%少ないトークン数、WALTより61%少ないトークン数を使用しており、事前評価の探索予算は一切必要としません。300タスクによるアブレーション実験はさらに、ルールとルーティンが成功の向上の大部分をもたらす一方、ルーティング、圧縮、およびキャッシュ認識型プロンプティングが、より大きなスキルライブラリをより低い限界トークンコストに変換することを示しています。最後に、我々は3つの軌跡レベルの効率指標、すなわちアクション反復率（Action Repetition Rate）、ステップオーバーヘッド比率（Step Overhead Ratio）、およびプロンプトキャッシュ利用率（Prompt Cache Utilization）を導入し、最終的な成功を超えて効率性を可視化します。

English

Recent advances in multimodal web agents often rely on increased inference-time computation, including rollout search, verifier passes, offline skill discovery, and specialist model stacks. This raises a central question: can a web agent become more efficient as it accumulates experience, rather than more expensive? We first analyze trajectories from VisualWebArena and identify three recurring sources of inefficiency: repeat-action loops, hidden discovery costs, and low prompt-cache reuse. We then introduce PANDO, a single-rollout online skill-distillation framework that maintains a structured Skill Library and combines progress reflection, confidence-based skill demotion, hierarchical routing, visual compression, and cache-aware prompting. On the full set of 910 VisualWebArena tasks, PANDO achieves a 58.3% success rate, outperforming SGV (54.0%) and our WALT reproduction (45.2%), while using 58% fewer tokens than SGV and 61% fewer tokens than WALT, without any pre-evaluation discovery budget. A 300-task ablation further shows that rules and routines provide most of the success gains, while routing, compression, and cache-aware prompting convert the larger skill library into lower marginal token cost. Finally, we introduce three trajectory-level efficiency metrics -- Action Repetition Rate, Step Overhead Ratio, and Prompt Cache Utilization -- to make efficiency visible beyond terminal success.