Эффективное обучение агентов для работы с компьютером
Efficient Agent Training for Computer Use
May 20, 2025
Авторы: Yanheng He, Jiahe Jin, Pengfei Liu
cs.AI
Аннотация
Масштабирование высококачественных данных о траекториях долгое время оставалось ключевым ограничением для разработки агентов, имитирующих человеческое взаимодействие с компьютером. Мы представляем PC Agent-E — эффективную структуру обучения агентов, которая значительно снижает зависимость от крупномасштабных демонстраций, выполненных человеком. Начиная всего с 312 аннотированных человеком траекторий использования компьютера, мы дополнительно улучшили качество данных, синтезировав разнообразные решения о действиях с помощью Claude 3.7 Sonnet. Обучившись на этих обогащенных траекториях, наша модель PC Agent-E достигла впечатляющего относительного улучшения на 141%, превзойдя мощный Claude 3.7 Sonnet с расширенным процессом мышления на тестовом стенде WindowsAgentArena-V2, который мы также представили. Более того, PC Agent-E демонстрирует высокую способность к обобщению на различных операционных системах в среде OSWorld. Наши результаты показывают, что сильные навыки использования компьютера могут быть развиты на основе небольшого объема высококачественных данных о траекториях.
English
Scaling up high-quality trajectory data has long been a critical bottleneck
for developing human-like computer use agents. We introduce PC Agent-E, an
efficient agent training framework that significantly reduces reliance on
large-scale human demonstrations. Starting with just 312 human-annotated
computer use trajectories, we further improved data quality by synthesizing
diverse action decisions with Claude 3.7 Sonnet. Trained on these enriched
trajectories, our PC Agent-E model achieved a remarkable 141% relative
improvement, surpassing the strong Claude 3.7 Sonnet with extended thinking on
WindowsAgentArena-V2, an improved benchmark we also released. Furthermore, PC
Agent-E demonstrates strong generalizability to different operating systems on
OSWorld. Our findings suggest that strong computer use capabilities can be
stimulated from a small amount of high-quality trajectory data.