Ripensare l'interpretabilità nell'era dei modelli linguistici su larga scala

Rethinking Interpretability in the Era of Large Language Models

January 30, 2024

Autori: Chandan Singh, Jeevana Priya Inala, Michel Galley, Rich Caruana, Jianfeng Gao

cs.AI

Abstract

L'apprendimento automatico interpretabile è esploso come area di interesse nell'ultimo decennio, stimolato dalla crescita di dataset sempre più grandi e di reti neurali profonde. Contemporaneamente, i modelli linguistici di grandi dimensioni (LLM) hanno dimostrato capacità straordinarie in un'ampia gamma di compiti, offrendo l'opportunità di ripensare le possibilità nell'apprendimento automatico interpretabile. In particolare, la capacità di spiegare in linguaggio naturale consente agli LLM di ampliare la scala e la complessità dei modelli che possono essere presentati a un essere umano. Tuttavia, queste nuove capacità sollevano nuove sfide, come spiegazioni allucinate e costi computazionali enormi. In questo position paper, iniziamo esaminando i metodi esistenti per valutare il campo emergente dell'interpretazione degli LLM (sia interpretare gli LLM che utilizzare gli LLM per fornire spiegazioni). Sosteniamo che, nonostante i loro limiti, gli LLM rappresentano un'opportunità per ridefinire l'interpretabilità con un ambito più ambizioso in molte applicazioni, inclusa l'auditing degli stessi LLM. Evidenziamo due priorità di ricerca emergenti per l'interpretazione degli LLM: utilizzare gli LLM per analizzare direttamente nuovi dataset e per generare spiegazioni interattive.

English

Interpretable machine learning has exploded as an area of interest over the last decade, sparked by the rise of increasingly large datasets and deep neural networks. Simultaneously, large language models (LLMs) have demonstrated remarkable capabilities across a wide array of tasks, offering a chance to rethink opportunities in interpretable machine learning. Notably, the capability to explain in natural language allows LLMs to expand the scale and complexity of patterns that can be given to a human. However, these new capabilities raise new challenges, such as hallucinated explanations and immense computational costs. In this position paper, we start by reviewing existing methods to evaluate the emerging field of LLM interpretation (both interpreting LLMs and using LLMs for explanation). We contend that, despite their limitations, LLMs hold the opportunity to redefine interpretability with a more ambitious scope across many applications, including in auditing LLMs themselves. We highlight two emerging research priorities for LLM interpretation: using LLMs to directly analyze new datasets and to generate interactive explanations.