XSkill: Aprendizado Contínuo a partir de Experiências e Habilidades em Agentes Multimodais

XSkill: Continual Learning from Experience and Skills in Multimodal Agents

March 12, 2026

Autores: Guanyu Jiang, Zhaochen Su, Xiaoye Qu, Yi R., Fung

cs.AI

Resumo

Os agentes multimodais já conseguem lidar com tarefas complexas de raciocínio com diversas ferramentas, mas ainda sofrem com uso ineficiente de ferramentas e orquestração inflexível em ambientes abertos. Um desafio central é capacitar tais agentes a melhorar continuamente sem atualizações de parâmetros, aprendendo com trajetórias passadas. Identificamos duas formas complementares de conhecimento reutilizável essenciais para este objetivo: experiências, que fornecem orientação concisa a nível de ação para seleção de ferramentas e tomada de decisão, e habilidades, que fornecem orientação estruturada a nível de tarefa para planeamento e uso de ferramentas. Para tal, propomos o XSkill, uma estrutura de fluxo duplo para aprendizagem contínua a partir de experiências e habilidades em agentes multimodais. O XSkill ancora tanto a extração como a recuperação de conhecimento em observações visuais. Durante a acumulação, o XSkill destila e consolida experiências e habilidades a partir de rollouts de múltiplos caminhos através de sumarização fundamentada visualmente e crítica transversal entre rollouts. Durante a inferência, recupera e adapta este conhecimento ao contexto visual atual e retroalimenta o histórico de utilização para a acumulação, formando um ciclo de aprendizagem contínua. Avaliado em cinco benchmarks abrangendo diversos domínios com quatro modelos de base, o XSkill supera consistentemente e substancialmente tanto as linhas de base baseadas apenas em ferramentas como as baseadas em aprendizagem. Uma análise mais aprofundada revela que os dois fluxos de conhecimento desempenham papéis complementares na influência dos comportamentos de raciocínio dos agentes e demonstram generalização zero-shot superior.

English

Multimodal agents can now tackle complex reasoning tasks with diverse tools, yet they still suffer from inefficient tool use and inflexible orchestration in open-ended settings. A central challenge is enabling such agents to continually improve without parameter updates by learning from past trajectories. We identify two complementary forms of reusable knowledge essential for this goal: experiences, providing concise action-level guidance for tool selection and decision making, and skills, providing structured task-level guidance for planning and tool use. To this end, we propose XSkill, a dual-stream framework for continual learning from experience and skills in multimodal agents. XSkill grounds both knowledge extraction and retrieval in visual observations. During accumulation, XSkill distills and consolidates experiences and skills from multi-path rollouts via visually grounded summarization and cross-rollout critique. During inference, it retrieves and adapts this knowledge to the current visual context and feeds usage history back into accumulation to form a continual learning loop. Evaluated on five benchmarks across diverse domains with four backbone models, XSkill consistently and substantially outperforms both tool-only and learning-based baselines. Further analysis reveals that the two knowledge streams play complementary roles in influencing the reasoning behaviors of agents and show superior zero-shot generalization.