Метакогниция в LLM: основы, прогресс и возможности

Аннотация

Метакогниция является фундаментальным компонентом интеллекта, критически важным для эффективного обучения, решения проблем, принятия решений, коммуникации и многого другого. В последние годы она всё чаще признается краеугольным камнем способных и прозрачных систем искусственного интеллекта. Однако, несмотря на значительный прогресс больших языковых моделей (LLM) в разнообразных реальных задачах, до сих пор неясно, когда, как и в какой степени они могут проявлять или быть наделены эффективными метакогнитивными способностями, а также как такие способности могут быть адаптированы для улучшения фундаментальных возможностей, надежности и интеллекта систем ИИ. Данная статья восполняет этот пробел, представляя первый всесторонний обзор текущего состояния знаний о метакогниции для LLM. Мы анализируем и таксономически классифицируем ландшафт этой emerging области, а также обобщаем недавние технические достижения, включая методы и бенчмарки для измерения и оценки метакогнитивных способностей LLM, техники для выявления, улучшения и применения метакогниции в LLM, а также результаты и последствия текущих исследований. Мы также обсуждаем прикладные аспекты, открытые вопросы и проблемы, а также перспективные направления будущих работ. Наша цель — предоставить подробный и актуальный обзор данной темы и стимулировать содержательные исследования и дискуссии. Упорядоченный список статей доступен по адресу: https://github.com/yale-nlp/LLM-Metacognition.

English

Metacognition is a foundational component of intelligence critical to effective learning, problem solving, decision-making, communication, and more. In recent years, it has become increasingly recognized as a cornerstone of capable, transparent AI systems. Yet while LLMs have made significant progress across diverse real-world tasks, it is not yet clear when, how, or to what extent they can exhibit or be endowed with effective metacognitive abilities, nor how such abilities can be adapted to advance the fundamental capabilities, reliability, and intelligence of AI systems. This paper bridges this gap by presenting the first comprehensive overview of the current state of knowledge on metacognition for LLMs. We analyze and taxonomize the landscape of this emerging field and summarize recent technical advancements, including methods and benchmarks to measure and evaluate LLMs' metacognitive abilities, techniques to elicit, improve, and apply metacognition in LLMs, and findings and implications of ongoing research. We also discuss applications, open questions and challenges, and promising directions for future work. Our aim is to provide a detailed and up-to-date review of this topic and stimulate meaningful research and discussion. An organized list of papers can be found at https://github.com/yale-nlp/LLM-Metacognition.