Utilizzare Captum per Spiegare Modelli Linguistici Generativi
Using Captum to Explain Generative Language Models
December 9, 2023
Autori: Vivek Miglani, Aobo Yang, Aram H. Markosyan, Diego Garcia-Olano, Narine Kokhlikyan
cs.AI
Abstract
Captum è una libreria completa per l'interpretabilità dei modelli in PyTorch, che offre una gamma di metodi tratti dalla letteratura sull'interpretabilità per migliorare la comprensione degli utenti riguardo ai modelli PyTorch. In questo articolo, presentiamo nuove funzionalità di Captum specificamente progettate per analizzare il comportamento dei modelli linguistici generativi. Forniamo una panoramica delle funzionalità disponibili e delle applicazioni esemplificative del loro potenziale per comprendere le associazioni apprese all'interno dei modelli linguistici generativi.
English
Captum is a comprehensive library for model explainability in PyTorch,
offering a range of methods from the interpretability literature to enhance
users' understanding of PyTorch models. In this paper, we introduce new
features in Captum that are specifically designed to analyze the behavior of
generative language models. We provide an overview of the available
functionalities and example applications of their potential for understanding
learned associations within generative language models.