Metacognitie in LLMs: Grondslagen, Vooruitgang en Kansen

Samenvatting

Metacognitie is een fundamenteel onderdeel van intelligentie dat essentieel is voor effectief leren, probleemoplossing, besluitvorming, communicatie en meer. In de afgelopen jaren wordt het steeds meer erkend als een hoeksteen van capabele, transparante AI-systemen. Hoewel grote taalmodellen (LLMs) aanzienlijke vooruitgang hebben geboekt bij uiteenlopende praktische taken, is het nog niet duidelijk wanneer, hoe of in welke mate zij effectieve metacognitieve vermogens kunnen vertonen of daarmee kunnen worden uitgerust, noch hoe dergelijke vermogens kunnen worden aangepast om de fundamentele capaciteiten, betrouwbaarheid en intelligentie van AI-systemen te bevorderen. Dit artikel overbrugt deze kloof door het eerste uitgebreide overzicht te presenteren van de huidige stand van kennis over metacognitie voor LLMs. We analyseren en taxonomiseren het landschap van dit opkomende veld en vatten recente technische ontwikkelingen samen, waaronder methoden en benchmarks om de metacognitieve vermogens van LLMs te meten en te evalueren, technieken om metacognitie in LLMs op te wekken, te verbeteren en toe te passen, en bevindingen en implicaties van lopend onderzoek. We bespreken ook toepassingen, open vragen en uitdagingen, en veelbelovende richtingen voor toekomstig werk. Ons doel is om een gedetailleerd en actueel overzicht van dit onderwerp te bieden en zinvol onderzoek en discussie te stimuleren. Een georganiseerde lijst van artikelen is te vinden op https://github.com/yale-nlp/LLM-Metacognition.

English

Metacognition is a foundational component of intelligence critical to effective learning, problem solving, decision-making, communication, and more. In recent years, it has become increasingly recognized as a cornerstone of capable, transparent AI systems. Yet while LLMs have made significant progress across diverse real-world tasks, it is not yet clear when, how, or to what extent they can exhibit or be endowed with effective metacognitive abilities, nor how such abilities can be adapted to advance the fundamental capabilities, reliability, and intelligence of AI systems. This paper bridges this gap by presenting the first comprehensive overview of the current state of knowledge on metacognition for LLMs. We analyze and taxonomize the landscape of this emerging field and summarize recent technical advancements, including methods and benchmarks to measure and evaluate LLMs' metacognitive abilities, techniques to elicit, improve, and apply metacognition in LLMs, and findings and implications of ongoing research. We also discuss applications, open questions and challenges, and promising directions for future work. Our aim is to provide a detailed and up-to-date review of this topic and stimulate meaningful research and discussion. An organized list of papers can be found at https://github.com/yale-nlp/LLM-Metacognition.