Ragionamento a K-Livelli con Modelli Linguistici di Grandi Dimensioni

K-Level Reasoning with Large Language Models

February 2, 2024

Autori: Yadong Zhang, Shaoguang Mao, Tao Ge, Xun Wang, Yan Xia, Man Lan, Furu Wei

cs.AI

Abstract

Sebbene i Modelli Linguistici di Grande Dimensione (LLM) abbiano dimostrato la loro competenza in compiti di ragionamento complesso, le loro prestazioni in scenari dinamici, interattivi e competitivi - come la strategia aziendale e l'analisi del mercato azionario - rimangono poco esplorate. Per colmare questa lacuna, esploriamo formalmente le capacità di ragionamento dinamico degli LLM per il processo decisionale in ambienti in rapida evoluzione. Introduciamo due sfide pilota basate sulla teoria dei giochi che riflettono le complessità del processo decisionale dinamico nel mondo reale. Queste sfide sono ben definite, consentendo una valutazione chiara, controllabile e precisa delle capacità di ragionamento dinamico degli LLM. Attraverso esperimenti estesi, scopriamo che i metodi di ragionamento esistenti tendono a fallire in contesti dinamici che richiedono un pensiero di livello k - un concetto chiave non affrontato dai lavori precedenti. Per affrontare questo problema, proponiamo un nuovo approccio di ragionamento per gli LLM, denominato "Ragionamento a Livello K". Questo approccio adotta la prospettiva dei rivali per impiegare ricorsivamente il pensiero di livello k basandosi sulle informazioni storiche disponibili, il che migliora significativamente l'accuratezza nella previsione delle mosse successive dei rivali e informa un processo decisionale più strategico. Questa ricerca non solo stabilisce un solido benchmark quantitativo per la valutazione del ragionamento dinamico, ma migliora anche notevolmente la competenza degli LLM in contesti dinamici.

English

While Large Language Models (LLMs) have demonstrated their proficiency in complex reasoning tasks, their performance in dynamic, interactive, and competitive scenarios - such as business strategy and stock market analysis - remains underexplored. To bridge this gap, we formally explore the dynamic reasoning capabilities of LLMs for decision-making in rapidly evolving environments. We introduce two game theory-based pilot challenges that mirror the complexities of real-world dynamic decision-making. These challenges are well-defined, enabling clear, controllable, and precise evaluation of LLMs' dynamic reasoning abilities. Through extensive experiments, we find that existing reasoning methods tend to falter in dynamic settings that require k-level thinking - a key concept not tackled by previous works. To address this, we propose a novel reasoning approach for LLMs, named "K-Level Reasoning". This approach adopts the perspective of rivals to recursively employ k-level thinking based on available historical information, which significantly improves the prediction accuracy of rivals' subsequent moves and informs more strategic decision-making. This research not only sets a robust quantitative benchmark for the assessment of dynamic reasoning but also markedly enhances the proficiency of LLMs in dynamic contexts.