Identità Culturale Presunta: Come i Nomi Influenzano le Risposte dei Modelli Linguistici

Presumed Cultural Identity: How Names Shape LLM Responses

February 17, 2025

Autori: Siddhesh Pawar, Arnav Arora, Lucie-Aimée Kaffee, Isabelle Augenstein

cs.AI

Abstract

I nomi sono profondamente legati all'identità umana. Possono fungere da indicatori di individualità, eredità culturale e storia personale. Tuttavia, utilizzare i nomi come indicatore principale dell'identità può portare a una semplificazione eccessiva di identità complesse. Quando si interagisce con i modelli linguistici di grandi dimensioni (LLM), i nomi degli utenti rappresentano un punto di informazione cruciale per la personalizzazione. I nomi possono entrare nelle conversazioni con i chatbot tramite input diretto dell'utente (richiesto dai chatbot), come parte di contesti di attività come la revisione di curriculum, o come funzionalità di memoria integrate che memorizzano le informazioni dell'utente per la personalizzazione. Studiamo i pregiudizi associati ai nomi misurando le presunzioni culturali nelle risposte generate dagli LLM quando vengono presentate comuni richieste di suggerimenti, che potrebbero implicare la formulazione di ipotesi sull'utente. Le nostre analisi dimostrano forti assunzioni sull'identità culturale associate ai nomi presenti nelle generazioni degli LLM in diverse culture. Il nostro lavoro ha implicazioni per la progettazione di sistemi di personalizzazione più sfumati che evitino di rafforzare stereotipi mantenendo al contempo una personalizzazione significativa.

English

Names are deeply tied to human identity. They can serve as markers of individuality, cultural heritage, and personal history. However, using names as a core indicator of identity can lead to over-simplification of complex identities. When interacting with LLMs, user names are an important point of information for personalisation. Names can enter chatbot conversations through direct user input (requested by chatbots), as part of task contexts such as CV reviews, or as built-in memory features that store user information for personalisation. We study biases associated with names by measuring cultural presumptions in the responses generated by LLMs when presented with common suggestion-seeking queries, which might involve making assumptions about the user. Our analyses demonstrate strong assumptions about cultural identity associated with names present in LLM generations across multiple cultures. Our work has implications for designing more nuanced personalisation systems that avoid reinforcing stereotypes while maintaining meaningful customisation.