CRITIC: I Grandi Modelli Linguistici Possono Autocorreggersi con Strumenti Interattivi di Critica

CRITIC: Large Language Models Can Self-Correct with Tool-Interactive Critiquing

May 19, 2023

Autori: Zhibin Gou, Zhihong Shao, Yeyun Gong, Yelong Shen, Yujiu Yang, Nan Duan, Weizhu Chen

cs.AI

Abstract

I recenti sviluppi nei grandi modelli linguistici (LLM) sono stati impressionanti. Tuttavia, questi modelli mostrano talvolta inconsistenze e comportamenti problematici, come l'invenzione di fatti, la generazione di codice difettoso o la creazione di contenuti offensivi e tossici. A differenza di questi modelli, gli esseri umani utilizzano tipicamente strumenti esterni per verificare e affinare i contenuti iniziali, come l'uso di un motore di ricerca per il fact-checking o di un interprete di codice per il debug. Ispirati da questa osservazione, introduciamo un framework chiamato CRITIC che consente agli LLM, essenzialmente "scatole nere", di convalidare e modificare progressivamente i propri output in modo simile all'interazione umana con gli strumenti. Più specificamente, partendo da un output iniziale, CRITIC interagisce con strumenti appropriati per valutare determinati aspetti del testo, e poi rivede l'output basandosi sul feedback ottenuto durante questo processo di validazione. Valutazioni complete che coinvolgono risposte a domande libere, sintesi di programmi matematici e riduzione della tossicità dimostrano che CRITIC migliora costantemente le prestazioni degli LLM. Nel frattempo, la nostra ricerca evidenzia l'importanza cruciale del feedback esterno nel promuovere il continuo auto-miglioramento degli LLM.

English

Recent developments in large language models (LLMs) have been impressive. However, these models sometimes show inconsistencies and problematic behavior, such as hallucinating facts, generating flawed code, or creating offensive and toxic content. Unlike these models, humans typically utilize external tools to cross-check and refine their initial content, like using a search engine for fact-checking, or a code interpreter for debugging. Inspired by this observation, we introduce a framework called CRITIC that allows LLMs, which are essentially "black boxes" to validate and progressively amend their own outputs in a manner similar to human interaction with tools. More specifically, starting with an initial output, CRITIC interacts with appropriate tools to evaluate certain aspects of the text, and then revises the output based on the feedback obtained during this validation process. Comprehensive evaluations involving free-form question answering, mathematical program synthesis, and toxicity reduction demonstrate that CRITIC consistently enhances the performance of LLMs. Meanwhile, our research highlights the crucial importance of external feedback in promoting the ongoing self-improvement of LLMs.