Usando Captum para Explicar Modelos Generativos de Lenguaje

Resumen

Captum es una biblioteca integral para la explicabilidad de modelos en PyTorch, que ofrece una variedad de métodos de la literatura sobre interpretabilidad para mejorar la comprensión de los usuarios sobre los modelos de PyTorch. En este artículo, presentamos nuevas características en Captum que están específicamente diseñadas para analizar el comportamiento de los modelos generativos de lenguaje. Proporcionamos una visión general de las funcionalidades disponibles y ejemplos de aplicaciones que demuestran su potencial para comprender las asociaciones aprendidas dentro de los modelos generativos de lenguaje.

English

Captum is a comprehensive library for model explainability in PyTorch, offering a range of methods from the interpretability literature to enhance users' understanding of PyTorch models. In this paper, we introduce new features in Captum that are specifically designed to analyze the behavior of generative language models. We provide an overview of the available functionalities and example applications of their potential for understanding learned associations within generative language models.

Usando Captum para Explicar Modelos Generativos de Lenguaje

Using Captum to Explain Generative Language Models

Resumen

Support