Conscience de soi agentique et informée

Agentic Knowledgeable Self-awareness

April 4, 2025

Auteurs: Shuofei Qiao, Zhisong Qiu, Baochang Ren, Xiaobin Wang, Xiangyuan Ru, Ningyu Zhang, Xiang Chen, Yong Jiang, Pengjun Xie, Fei Huang, Huajun Chen

cs.AI

Résumé

Les modèles de langage de grande taille (LLMs) ont obtenu des performances considérables dans diverses tâches de planification agentique. Cependant, les approches traditionnelles de planification agentique adoptent une méthodologie de "irrigation par inondation" qui injecte de manière indiscriminée des trajectoires optimales, des retours externes et des connaissances de domaine dans les modèles d'agents. Cette pratique néglige le principe cognitif humain fondamental de la conscience de soi situationnelle lors de la prise de décision - la capacité à évaluer dynamiquement les exigences situationnelles et à employer stratégiquement les ressources pendant la prise de décision. Nous proposons la conscience de soi agentique informée pour combler cette lacune, un nouveau paradigme permettant aux agents basés sur LLM de réguler de manière autonome l'utilisation des connaissances. Plus précisément, nous proposons KnowSelf, une approche centrée sur les données qui applique aux agents une conscience de soi informée, à l'instar des humains. Concrètement, nous concevons un critère heuristique de jugement situationnel pour marquer des tokens spéciaux sur les trajectoires auto-explorées de l'agent afin de collecter des données d'entraînement. Grâce à un processus d'entraînement en deux étapes, le modèle d'agent peut basculer entre différentes situations en générant des tokens spéciaux spécifiques, atteignant ainsi des effets de planification optimaux avec des coûts minimaux. Nos expériences démontrent que KnowSelf peut surpasser diverses bases de référence solides sur différentes tâches et modèles avec une utilisation minimale de connaissances externes. Le code est disponible à l'adresse suivante : https://github.com/zjunlp/KnowSelf.

English

Large Language Models (LLMs) have achieved considerable performance across various agentic planning tasks. However, traditional agent planning approaches adopt a "flood irrigation" methodology that indiscriminately injects gold trajectories, external feedback, and domain knowledge into agent models. This practice overlooks the fundamental human cognitive principle of situational self-awareness during decision-making-the ability to dynamically assess situational demands and strategically employ resources during decision-making. We propose agentic knowledgeable self-awareness to address this gap, a novel paradigm enabling LLM-based agents to autonomously regulate knowledge utilization. Specifically, we propose KnowSelf, a data-centric approach that applies agents with knowledgeable self-awareness like humans. Concretely, we devise a heuristic situation judgement criterion to mark special tokens on the agent's self-explored trajectories for collecting training data. Through a two-stage training process, the agent model can switch between different situations by generating specific special tokens, achieving optimal planning effects with minimal costs. Our experiments demonstrate that KnowSelf can outperform various strong baselines on different tasks and models with minimal use of external knowledge. Code is available at https://github.com/zjunlp/KnowSelf.