Autoconciencia Agente y Conocedora

Agentic Knowledgeable Self-awareness

April 4, 2025

Autores: Shuofei Qiao, Zhisong Qiu, Baochang Ren, Xiaobin Wang, Xiangyuan Ru, Ningyu Zhang, Xiang Chen, Yong Jiang, Pengjun Xie, Fei Huang, Huajun Chen

cs.AI

Resumen

Los Modelos de Lenguaje de Gran Escala (LLMs, por sus siglas en inglés) han logrado un rendimiento considerable en diversas tareas de planificación agentiva. Sin embargo, los enfoques tradicionales de planificación de agentes adoptan una metodología de "riego por inundación" que inyecta indiscriminadamente trayectorias óptimas, retroalimentación externa y conocimiento del dominio en los modelos de agentes. Esta práctica pasa por alto el principio cognitivo humano fundamental de la autoconciencia situacional durante la toma de decisiones: la capacidad de evaluar dinámicamente las demandas situacionales y emplear estratégicamente los recursos durante el proceso de decisión. Proponemos la autoconciencia agentiva informada para abordar esta brecha, un paradigma novedoso que permite a los agentes basados en LLMs regular autónomamente la utilización del conocimiento. Específicamente, proponemos KnowSelf, un enfoque centrado en datos que aplica a los agentes una autoconciencia informada similar a la humana. Concretamente, diseñamos un criterio heurístico de juicio situacional para marcar tokens especiales en las trayectorias autoexploradas del agente, con el fin de recopilar datos de entrenamiento. Mediante un proceso de entrenamiento en dos etapas, el modelo del agente puede alternar entre diferentes situaciones generando tokens especiales específicos, logrando efectos de planificación óptimos con costos mínimos. Nuestros experimentos demuestran que KnowSelf puede superar a varias líneas base sólidas en diferentes tareas y modelos con un uso mínimo de conocimiento externo. El código está disponible en https://github.com/zjunlp/KnowSelf.

English

Large Language Models (LLMs) have achieved considerable performance across various agentic planning tasks. However, traditional agent planning approaches adopt a "flood irrigation" methodology that indiscriminately injects gold trajectories, external feedback, and domain knowledge into agent models. This practice overlooks the fundamental human cognitive principle of situational self-awareness during decision-making-the ability to dynamically assess situational demands and strategically employ resources during decision-making. We propose agentic knowledgeable self-awareness to address this gap, a novel paradigm enabling LLM-based agents to autonomously regulate knowledge utilization. Specifically, we propose KnowSelf, a data-centric approach that applies agents with knowledgeable self-awareness like humans. Concretely, we devise a heuristic situation judgement criterion to mark special tokens on the agent's self-explored trajectories for collecting training data. Through a two-stage training process, the agent model can switch between different situations by generating specific special tokens, achieving optimal planning effects with minimal costs. Our experiments demonstrate that KnowSelf can outperform various strong baselines on different tasks and models with minimal use of external knowledge. Code is available at https://github.com/zjunlp/KnowSelf.