LLM에서의 메타인지: 기초, 발전, 기회

초록

메타인지는 효과적인 학습, 문제 해결, 의사 결정, 의사소통 등에 중요한 지능의 기본 구성 요소이다. 최근 몇 년간 이는 유능하고 투명한 AI 시스템의 핵심 요소로 점차 인식되고 있다. 그러나 LLM이 다양한 실제 작업에서 상당한 진전을 이루었음에도 불구하고, LLM이 효과적인 메타인지 능력을 언제, 어떻게, 또는 어느 정도까지 나타내거나 부여받을 수 있는지, 그리고 그러한 능력이 AI 시스템의 근본적인 능력, 신뢰성 및 지능을 향상시키기 위해 어떻게 활용될 수 있는지는 아직 명확하지 않다. 본 논문은 LLM을 위한 메타인지에 관한 현재 지식 상태에 대한 최초의 포괄적인 개요를 제시함으로써 이러한 격차를 해소한다. 우리는 이 신흥 분야의 지형을 분석하고 분류하며, LLM의 메타인지 능력을 측정하고 평가하기 위한 방법과 벤치마크, LLM에서 메타인지를 이끌어내고 개선하며 적용하기 위한 기술, 그리고 진행 중인 연구의 결과와 시사점을 포함한 최근 기술적 발전을 요약한다. 또한 응용 분야, 미해결 과제와 도전, 그리고 향후 연구를 위한 유망한 방향에 대해서도 논의한다. 우리의 목표는 이 주제에 대한 상세하고 최신의 리뷰를 제공하고 의미 있는 연구와 논의를 촉진하는 것이다. 체계적으로 정리된 논문 목록은 https://github.com/yale-nlp/LLM-Metacognition에서 확인할 수 있다.

English

Metacognition is a foundational component of intelligence critical to effective learning, problem solving, decision-making, communication, and more. In recent years, it has become increasingly recognized as a cornerstone of capable, transparent AI systems. Yet while LLMs have made significant progress across diverse real-world tasks, it is not yet clear when, how, or to what extent they can exhibit or be endowed with effective metacognitive abilities, nor how such abilities can be adapted to advance the fundamental capabilities, reliability, and intelligence of AI systems. This paper bridges this gap by presenting the first comprehensive overview of the current state of knowledge on metacognition for LLMs. We analyze and taxonomize the landscape of this emerging field and summarize recent technical advancements, including methods and benchmarks to measure and evaluate LLMs' metacognitive abilities, techniques to elicit, improve, and apply metacognition in LLMs, and findings and implications of ongoing research. We also discuss applications, open questions and challenges, and promising directions for future work. Our aim is to provide a detailed and up-to-date review of this topic and stimulate meaningful research and discussion. An organized list of papers can be found at https://github.com/yale-nlp/LLM-Metacognition.