推定される文化的アイデンティティ：名前がLLMの応答に与える影響

Presumed Cultural Identity: How Names Shape LLM Responses

February 17, 2025

著者: Siddhesh Pawar, Arnav Arora, Lucie-Aimée Kaffee, Isabelle Augenstein

cs.AI

要旨

名前は人間のアイデンティティと深く結びついている。それは個人性、文化的遺産、そして個人史のマーカーとして機能し得る。しかし、アイデンティティの核心的な指標として名前を使用することは、複雑なアイデンティティを過度に単純化する結果を招く可能性がある。大規模言語モデル（LLM）とのインタラクションにおいて、ユーザー名はパーソナライゼーションのための重要な情報ポイントである。名前は、チャットボットが要求する直接的なユーザー入力、CVレビューなどのタスクコンテキストの一部、あるいはパーソナライゼーションのためにユーザー情報を保存する組み込みメモリ機能を通じて、チャットボットの会話に登場する。我々は、LLMが提示された一般的な提案要望クエリに対して生成する応答における文化的な前提を測定することで、名前に関連するバイアスを研究する。これらのクエリは、ユーザーについての仮定を伴う可能性がある。我々の分析は、複数の文化にわたるLLMの生成において、名前に関連する文化的アイデンティティについての強い前提が存在することを示している。本研究は、ステレオタイプを強化することなく、意味のあるカスタマイズを維持する、よりニュアンスのあるパーソナライゼーションシステムの設計に示唆を与えるものである。

English

Names are deeply tied to human identity. They can serve as markers of individuality, cultural heritage, and personal history. However, using names as a core indicator of identity can lead to over-simplification of complex identities. When interacting with LLMs, user names are an important point of information for personalisation. Names can enter chatbot conversations through direct user input (requested by chatbots), as part of task contexts such as CV reviews, or as built-in memory features that store user information for personalisation. We study biases associated with names by measuring cultural presumptions in the responses generated by LLMs when presented with common suggestion-seeking queries, which might involve making assumptions about the user. Our analyses demonstrate strong assumptions about cultural identity associated with names present in LLM generations across multiple cultures. Our work has implications for designing more nuanced personalisation systems that avoid reinforcing stereotypes while maintaining meaningful customisation.