Agentisches wissensbasiertes Selbstbewusstsein

Agentic Knowledgeable Self-awareness

April 4, 2025

Autoren: Shuofei Qiao, Zhisong Qiu, Baochang Ren, Xiaobin Wang, Xiangyuan Ru, Ningyu Zhang, Xiang Chen, Yong Jiang, Pengjun Xie, Fei Huang, Huajun Chen

cs.AI

Zusammenfassung

Große Sprachmodelle (LLMs) haben beachtliche Leistungen bei verschiedenen agentenbasierten Planungsaufgaben erzielt. Traditionelle Ansätze zur Agentenplanung verwenden jedoch eine „Bewässerungsmethode“, die wahllos Goldtrajektorien, externes Feedback und Domänenwissen in Agentenmodelle einfügt. Diese Praxis übersieht das grundlegende menschliche kognitive Prinzip der situativen Selbstwahrnehmung während der Entscheidungsfindung – die Fähigkeit, situative Anforderungen dynamisch zu bewerten und Ressourcen strategisch einzusetzen. Wir schlagen agentenbasierte wissensbewusste Selbstwahrnehmung vor, um diese Lücke zu schließen, ein neuartiges Paradigma, das LLM-basierten Agenten ermöglicht, die Wissensnutzung autonom zu regulieren. Konkret schlagen wir KnowSelf vor, einen datenzentrierten Ansatz, der Agenten mit wissensbewusster Selbstwahrnehmung wie beim Menschen ausstattet. Insbesondere entwickeln wir ein heuristisches Situationsbeurteilungskriterium, um spezielle Tokens auf den selbst erkundeten Trajektorien des Agenten zu markieren, um Trainingsdaten zu sammeln. Durch einen zweistufigen Trainingsprozess kann das Agentenmodell zwischen verschiedenen Situationen wechseln, indem es spezifische spezielle Tokens generiert, und so optimale Planungseffekte mit minimalen Kosten erzielen. Unsere Experimente zeigen, dass KnowSelf verschiedene starke Baselines bei unterschiedlichen Aufgaben und Modellen mit minimalem Einsatz von externem Wissen übertreffen kann. Der Code ist verfügbar unter https://github.com/zjunlp/KnowSelf.

English

Large Language Models (LLMs) have achieved considerable performance across various agentic planning tasks. However, traditional agent planning approaches adopt a "flood irrigation" methodology that indiscriminately injects gold trajectories, external feedback, and domain knowledge into agent models. This practice overlooks the fundamental human cognitive principle of situational self-awareness during decision-making-the ability to dynamically assess situational demands and strategically employ resources during decision-making. We propose agentic knowledgeable self-awareness to address this gap, a novel paradigm enabling LLM-based agents to autonomously regulate knowledge utilization. Specifically, we propose KnowSelf, a data-centric approach that applies agents with knowledgeable self-awareness like humans. Concretely, we devise a heuristic situation judgement criterion to mark special tokens on the agent's self-explored trajectories for collecting training data. Through a two-stage training process, the agent model can switch between different situations by generating specific special tokens, achieving optimal planning effects with minimal costs. Our experiments demonstrate that KnowSelf can outperform various strong baselines on different tasks and models with minimal use of external knowledge. Code is available at https://github.com/zjunlp/KnowSelf.