Agentisch Kennisrijk Zelfbewustzijn

Agentic Knowledgeable Self-awareness

April 4, 2025

Auteurs: Shuofei Qiao, Zhisong Qiu, Baochang Ren, Xiaobin Wang, Xiangyuan Ru, Ningyu Zhang, Xiang Chen, Yong Jiang, Pengjun Xie, Fei Huang, Huajun Chen

cs.AI

Samenvatting

Grote Taalmodellen (LLMs) hebben aanzienlijke prestaties geleverd bij diverse agentische plannings taken. Traditionele benaderingen voor agentplanning hanteren echter een "overstromingsirrigatie"-methodologie die zonder onderscheid gouden trajecten, externe feedback en domeinkennis in agentmodellen injecteert. Deze praktijk negeert het fundamentele menselijke cognitieve principe van situationeel zelfbewustzijn tijdens besluitvorming—het vermogen om situationele eisen dynamisch te beoordelen en strategisch middelen in te zetten tijdens besluitvorming. Wij stellen agentisch kennisrijk zelfbewustzijn voor om deze kloof te overbruggen, een nieuw paradigma dat LLM-gebaseerde agenten in staat stelt om kennisgebruik autonoom te reguleren. Specifiek stellen we KnowSelf voor, een data-centrische benadering die agenten voorziet van kennisrijk zelfbewustzijn zoals bij mensen. Concreet ontwikkelen we een heuristisch situatiebeoordelingscriterium om speciale tokens te markeren op de zelfverkende trajecten van de agent voor het verzamelen van trainingsdata. Door een tweefasen trainingsproces kan het agentmodel schakelen tussen verschillende situaties door specifieke speciale tokens te genereren, waardoor optimale planningseffecten worden bereikt met minimale kosten. Onze experimenten tonen aan dat KnowSelf verschillende sterke baseline-methoden kan overtreffen bij verschillende taken en modellen met minimaal gebruik van externe kennis. Code is beschikbaar op https://github.com/zjunlp/KnowSelf.

English

Large Language Models (LLMs) have achieved considerable performance across various agentic planning tasks. However, traditional agent planning approaches adopt a "flood irrigation" methodology that indiscriminately injects gold trajectories, external feedback, and domain knowledge into agent models. This practice overlooks the fundamental human cognitive principle of situational self-awareness during decision-making-the ability to dynamically assess situational demands and strategically employ resources during decision-making. We propose agentic knowledgeable self-awareness to address this gap, a novel paradigm enabling LLM-based agents to autonomously regulate knowledge utilization. Specifically, we propose KnowSelf, a data-centric approach that applies agents with knowledgeable self-awareness like humans. Concretely, we devise a heuristic situation judgement criterion to mark special tokens on the agent's self-explored trajectories for collecting training data. Through a two-stage training process, the agent model can switch between different situations by generating specific special tokens, achieving optimal planning effects with minimal costs. Our experiments demonstrate that KnowSelf can outperform various strong baselines on different tasks and models with minimal use of external knowledge. Code is available at https://github.com/zjunlp/KnowSelf.