Repensando a Interpretabilidade na Era dos Modelos de Linguagem de Grande Escala

Rethinking Interpretability in the Era of Large Language Models

January 30, 2024

Autores: Chandan Singh, Jeevana Priya Inala, Michel Galley, Rich Caruana, Jianfeng Gao

cs.AI

Resumo

O aprendizado de máquina interpretável explodiu como uma área de interesse na última década, impulsionado pelo surgimento de conjuntos de dados cada vez maiores e redes neurais profundas. Simultaneamente, os modelos de linguagem de grande escala (LLMs, na sigla em inglês) demonstraram capacidades notáveis em uma ampla gama de tarefas, oferecendo uma oportunidade para repensar as possibilidades no campo do aprendizado de máquina interpretável. Notavelmente, a capacidade de explicar em linguagem natural permite que os LLMs expandam a escala e a complexidade dos padrões que podem ser apresentados a um ser humano. No entanto, essas novas capacidades trazem novos desafios, como explicações alucinadas e custos computacionais imensos. Neste artigo de posicionamento, começamos revisando os métodos existentes para avaliar o campo emergente da interpretação de LLMs (tanto interpretar LLMs quanto usar LLMs para explicações). Argumentamos que, apesar de suas limitações, os LLMs têm o potencial de redefinir a interpretabilidade com um escopo mais ambicioso em muitas aplicações, incluindo na auditoria dos próprios LLMs. Destacamos duas prioridades de pesquisa emergentes para a interpretação de LLMs: usar LLMs para analisar diretamente novos conjuntos de dados e para gerar explicações interativas.

English

Interpretable machine learning has exploded as an area of interest over the last decade, sparked by the rise of increasingly large datasets and deep neural networks. Simultaneously, large language models (LLMs) have demonstrated remarkable capabilities across a wide array of tasks, offering a chance to rethink opportunities in interpretable machine learning. Notably, the capability to explain in natural language allows LLMs to expand the scale and complexity of patterns that can be given to a human. However, these new capabilities raise new challenges, such as hallucinated explanations and immense computational costs. In this position paper, we start by reviewing existing methods to evaluate the emerging field of LLM interpretation (both interpreting LLMs and using LLMs for explanation). We contend that, despite their limitations, LLMs hold the opportunity to redefine interpretability with a more ambitious scope across many applications, including in auditing LLMs themselves. We highlight two emerging research priorities for LLM interpretation: using LLMs to directly analyze new datasets and to generate interactive explanations.