Interprétabilité mécaniste géospatiale des grands modèles de langage

Geospatial Mechanistic Interpretability of Large Language Models

May 6, 2025

Auteurs: Stef De Sabbata, Stefano Mizzaro, Kevin Roitero

cs.AI

Résumé

Les grands modèles de langage (LLM) ont démontré des capacités sans précédent dans diverses tâches de traitement du langage naturel. Leur aptitude à traiter et à générer du texte et du code viables les a rendus omniprésents dans de nombreux domaines, tandis que leur déploiement en tant que bases de connaissances et outils de "raisonnement" reste un sujet de recherche active. En géographie, un nombre croissant de publications se concentre sur l'évaluation des connaissances géographiques des LLM et de leur capacité à effectuer un raisonnement spatial. Cependant, on sait encore très peu de choses sur le fonctionnement interne de ces modèles, en particulier sur la manière dont ils traitent les informations géographiques. Dans ce chapitre, nous établissons un cadre novateur pour l'étude de l'interprétabilité mécaniste géospatiale - en utilisant l'analyse spatiale pour rétro-ingénierer la manière dont les LLM gèrent les informations géographiques. Notre objectif est de faire progresser notre compréhension des représentations internes que ces modèles complexes génèrent lors du traitement des informations géographiques - ce que l'on pourrait appeler "comment les LLM pensent l'information géographique", si une telle formulation ne constituait pas un anthropomorphisme excessif. Nous commençons par décrire l'utilisation du probing pour révéler les structures internes des LLM. Nous introduisons ensuite le domaine de l'interprétabilité mécaniste, en discutant de l'hypothèse de superposition et du rôle des autoencodeurs parcimonieux dans la décomposition des représentations internes polysémiques des LLM en caractéristiques plus interprétables et monosémiques. Dans nos expériences, nous utilisons l'autocorrélation spatiale pour montrer comment les caractéristiques obtenues pour les noms de lieux présentent des motifs spatiaux liés à leur emplacement géographique et peuvent ainsi être interprétées géospatialement, fournissant des insights sur la manière dont ces modèles traitent les informations géographiques. Nous concluons en discutant comment notre cadre peut contribuer à façonner l'étude et l'utilisation des modèles fondateurs en géographie.

English

Large Language Models (LLMs) have demonstrated unprecedented capabilities across various natural language processing tasks. Their ability to process and generate viable text and code has made them ubiquitous in many fields, while their deployment as knowledge bases and "reasoning" tools remains an area of ongoing research. In geography, a growing body of literature has been focusing on evaluating LLMs' geographical knowledge and their ability to perform spatial reasoning. However, very little is still known about the internal functioning of these models, especially about how they process geographical information. In this chapter, we establish a novel framework for the study of geospatial mechanistic interpretability - using spatial analysis to reverse engineer how LLMs handle geographical information. Our aim is to advance our understanding of the internal representations that these complex models generate while processing geographical information - what one might call "how LLMs think about geographic information" if such phrasing was not an undue anthropomorphism. We first outline the use of probing in revealing internal structures within LLMs. We then introduce the field of mechanistic interpretability, discussing the superposition hypothesis and the role of sparse autoencoders in disentangling polysemantic internal representations of LLMs into more interpretable, monosemantic features. In our experiments, we use spatial autocorrelation to show how features obtained for placenames display spatial patterns related to their geographic location and can thus be interpreted geospatially, providing insights into how these models process geographical information. We conclude by discussing how our framework can help shape the study and use of foundation models in geography.