Autoconsciência Agente e Conhecedora

Agentic Knowledgeable Self-awareness

April 4, 2025

Autores: Shuofei Qiao, Zhisong Qiu, Baochang Ren, Xiaobin Wang, Xiangyuan Ru, Ningyu Zhang, Xiang Chen, Yong Jiang, Pengjun Xie, Fei Huang, Huajun Chen

cs.AI

Resumo

Modelos de Linguagem de Grande Escala (LLMs) alcançaram desempenho considerável em diversas tarefas de planejamento de agentes. No entanto, abordagens tradicionais de planejamento de agentes adotam uma metodologia de "irrigação por inundação" que injeta indiscriminadamente trajetórias ideais, feedback externo e conhecimento de domínio nos modelos de agentes. Essa prática ignora o princípio cognitivo humano fundamental da autoconsciência situacional durante a tomada de decisão — a capacidade de avaliar dinamicamente as demandas situacionais e empregar recursos estrategicamente durante o processo decisório. Propomos a autoconsciência situacional informada de agentes para abordar essa lacuna, um novo paradigma que permite que agentes baseados em LLM regulem autonomamente a utilização de conhecimento. Especificamente, propomos o KnowSelf, uma abordagem centrada em dados que aplica aos agentes uma autoconsciência situacional informada, semelhante à humana. Concretamente, elaboramos um critério heurístico de julgamento situacional para marcar tokens especiais nas trajetórias autoexploradas do agente, coletando dados de treinamento. Por meio de um processo de treinamento em duas etapas, o modelo do agente pode alternar entre diferentes situações gerando tokens específicos, alcançando efeitos de planejamento ótimos com custos mínimos. Nossos experimentos demonstram que o KnowSelf pode superar várias linhas de base robustas em diferentes tarefas e modelos com uso mínimo de conhecimento externo. O código está disponível em https://github.com/zjunlp/KnowSelf.

English

Large Language Models (LLMs) have achieved considerable performance across various agentic planning tasks. However, traditional agent planning approaches adopt a "flood irrigation" methodology that indiscriminately injects gold trajectories, external feedback, and domain knowledge into agent models. This practice overlooks the fundamental human cognitive principle of situational self-awareness during decision-making-the ability to dynamically assess situational demands and strategically employ resources during decision-making. We propose agentic knowledgeable self-awareness to address this gap, a novel paradigm enabling LLM-based agents to autonomously regulate knowledge utilization. Specifically, we propose KnowSelf, a data-centric approach that applies agents with knowledgeable self-awareness like humans. Concretely, we devise a heuristic situation judgement criterion to mark special tokens on the agent's self-explored trajectories for collecting training data. Through a two-stage training process, the agent model can switch between different situations by generating specific special tokens, achieving optimal planning effects with minimal costs. Our experiments demonstrate that KnowSelf can outperform various strong baselines on different tasks and models with minimal use of external knowledge. Code is available at https://github.com/zjunlp/KnowSelf.