Vermutete kulturelle Identität: Wie Namen die Antworten von LLMs beeinflussen

Presumed Cultural Identity: How Names Shape LLM Responses

February 17, 2025

Autoren: Siddhesh Pawar, Arnav Arora, Lucie-Aimée Kaffee, Isabelle Augenstein

cs.AI

Zusammenfassung

Namen sind eng mit der menschlichen Identität verbunden. Sie können als Marker für Individualität, kulturelles Erbe und persönliche Geschichte dienen. Die Verwendung von Namen als zentraler Indikator für Identität kann jedoch zu einer Übervereinfachung komplexer Identitäten führen. Bei der Interaktion mit großen Sprachmodellen (LLMs) sind Benutzernamen ein wichtiger Informationspunkt für die Personalisierung. Namen können in Chatbot-Gespräche durch direkte Benutzereingaben (die von Chatbots angefordert werden), als Teil von Aufgabenkontexten wie Lebenslaufprüfungen oder als integrierte Speicherfunktionen, die Benutzerinformationen für die Personalisierung speichern, einfließen. Wir untersuchen Vorurteile im Zusammenhang mit Namen, indem wir kulturelle Annahmen in den Antworten messen, die von LLMs generiert werden, wenn sie mit gängigen, ratsuchenden Anfragen konfrontiert werden, die möglicherweise Annahmen über den Benutzer beinhalten. Unsere Analysen zeigen starke Annahmen über die kulturelle Identität, die mit Namen in den Generationen von LLMs über verschiedene Kulturen hinweg verbunden sind. Unsere Arbeit hat Auswirkungen auf die Gestaltung differenzierterer Personalisierungssysteme, die Stereotype nicht verstärken, während sie gleichzeitig eine sinnvolle Anpassung beibehalten.

English

Names are deeply tied to human identity. They can serve as markers of individuality, cultural heritage, and personal history. However, using names as a core indicator of identity can lead to over-simplification of complex identities. When interacting with LLMs, user names are an important point of information for personalisation. Names can enter chatbot conversations through direct user input (requested by chatbots), as part of task contexts such as CV reviews, or as built-in memory features that store user information for personalisation. We study biases associated with names by measuring cultural presumptions in the responses generated by LLMs when presented with common suggestion-seeking queries, which might involve making assumptions about the user. Our analyses demonstrate strong assumptions about cultural identity associated with names present in LLM generations across multiple cultures. Our work has implications for designing more nuanced personalisation systems that avoid reinforcing stereotypes while maintaining meaningful customisation.