Trace2Skill: Destilar Lições Locais da Trajetória em Habilidades de Agente Transferíveis

Resumo

Dotar agentes de Modelos de Linguagem de Grande Porte (LLM) com habilidades específicas de domínio é crucial para lidar com tarefas complexas. No entanto, a criação manual gera um severo gargalo de escalabilidade. Por outro lado, a geração automatizada de habilidades frequentemente produz resultados frágeis ou fragmentados, pois depende de conhecimento paramétrico superficial ou se ajusta excessivamente, de forma sequencial, a lições localizadas em trajetórias não generalizáveis. Para superar isso, apresentamos o Trace2Skill, uma estrutura que espelha a forma como especialistas humanos criam habilidades: analisando holisticamente uma ampla experiência de execução antes de destilá-la em um guia único e abrangente. Em vez de reagir sequencialmente a trajetórias individuais, o Trace2Skill despacha uma frota paralela de subagentes para analisar um conjunto diversificado de execuções. Ele extrai lições específicas de cada trajetória e as consolida hierarquicamente em um diretório de habilidades unificado e livre de conflitos por meio de raciocínio indutivo. O Trace2Skill suporta tanto o aprofundamento de habilidades humanas pré-existentes quanto a criação de novas habilidades do zero. Experimentos em domínios desafiadores, como planilhas, VisionQA e raciocínio matemático, mostram que o Trace2Skill melhora significativamente linhas de base fortes, incluindo as habilidades oficiais xlsx da Anthropic. Crucialmente, esta evolução fundamentada em trajetórias não se limita a memorizar instâncias de tarefas ou peculiaridades específicas de modelos: as habilidades evoluídas transferem-se entre diferentes escalas de LLM e generalizam-se para configurações fora da distribuição (OOD). Por exemplo, habilidades evoluídas pelo Qwen3.5-35B em suas próprias trajetórias melhoraram um agente Qwen3.5-122B em até 57,65 pontos percentuais absolutos no WikiTableQuestions. Por fim, nossos resultados demonstram que a experiência complexa de um agente pode ser empacotada em habilidades declarativas altamente transferíveis - sem necessidade de atualizações de parâmetros, módulos externos de recuperação e utilizando modelos de código aberto com apenas 35B de parâmetros.

English

Equipping Large Language Model (LLM) agents with domain-specific skills is critical for tackling complex tasks. Yet, manual authoring creates a severe scalability bottleneck. Conversely, automated skill generation often yields fragile or fragmented results because it either relies on shallow parametric knowledge or sequentially overfits to non-generalizable trajectory-local lessons. To overcome this, we introduce Trace2Skill, a framework that mirrors how human experts author skills: by holistically analyzing broad execution experience before distilling it into a single, comprehensive guide. Instead of reacting sequentially to individual trajectories, Trace2Skill dispatches a parallel fleet of sub-agents to analyze a diverse pool of executions. It extracts trajectory-specific lessons and hierarchically consolidates them into a unified, conflict-free skill directory via inductive reasoning. Trace2Skill supports both deepening existing human-written skills and creating new ones from scratch. Experiments in challenging domains, such as spreadsheet, VisionQA and math reasoning, show that Trace2Skill significantly improves upon strong baselines, including Anthropic's official xlsx skills. Crucially, this trajectory-grounded evolution does not merely memorize task instances or model-specific quirks: evolved skills transfer across LLM scales and generalize to OOD settings. For example, skills evolved by Qwen3.5-35B on its own trajectories improved a Qwen3.5-122B agent by up to 57.65 absolute percentage points on WikiTableQuestions. Ultimately, our results demonstrate that complex agent experience can be packaged into highly transferable, declarative skills -- requiring no parameter updates, no external retrieval modules, and utilizing open-source models as small as 35B parameters.