SeeGULL: Um Benchmark de Estereótipos com Amplo Alcance Geocultural Utilizando Modelos Generativos

SeeGULL: A Stereotype Benchmark with Broad Geo-Cultural Coverage Leveraging Generative Models

May 19, 2023

Autores: Akshita Jha, Aida Davani, Chandan K. Reddy, Shachi Dave, Vinodkumar Prabhakaran, Sunipa Dev

cs.AI

Resumo

Conjuntos de dados de referência para estereótipos são cruciais para detectar e mitigar estereótipos sociais sobre grupos de pessoas em modelos de PLN. No entanto, os conjuntos de dados existentes são limitados em tamanho e cobertura, e estão amplamente restritos a estereótipos prevalentes na sociedade ocidental. Isso é especialmente problemático à medida que as tecnologias de linguagem ganham espaço em todo o mundo. Para abordar essa lacuna, apresentamos o SeeGULL, um conjunto de dados de estereótipos de ampla cobertura, construído utilizando as capacidades generativas de modelos de linguagem de grande escala, como PaLM e GPT-3, e aproveitando um grupo diversificado de avaliadores globalmente distribuídos para validar a prevalência desses estereótipos na sociedade. O SeeGULL está em inglês e contém estereótipos sobre grupos de identidade que abrangem 178 países em 8 diferentes regiões geopolíticas e 6 continentes, além de identidades em nível estadual nos EUA e na Índia. Também incluímos pontuações detalhadas de ofensividade para diferentes estereótipos e demonstramos suas disparidades globais. Além disso, incluímos anotações comparativas sobre os mesmos grupos feitas por anotadores que vivem na região versus aqueles baseados na América do Norte, e demonstramos que os estereótipos sobre grupos dentro de uma região diferem daqueles prevalentes na América do Norte. AVISO DE CONTEÚDO: Este artigo contém exemplos de estereótipos que podem ser ofensivos.

English

Stereotype benchmark datasets are crucial to detect and mitigate social stereotypes about groups of people in NLP models. However, existing datasets are limited in size and coverage, and are largely restricted to stereotypes prevalent in the Western society. This is especially problematic as language technologies gain hold across the globe. To address this gap, we present SeeGULL, a broad-coverage stereotype dataset, built by utilizing generative capabilities of large language models such as PaLM, and GPT-3, and leveraging a globally diverse rater pool to validate the prevalence of those stereotypes in society. SeeGULL is in English, and contains stereotypes about identity groups spanning 178 countries across 8 different geo-political regions across 6 continents, as well as state-level identities within the US and India. We also include fine-grained offensiveness scores for different stereotypes and demonstrate their global disparities. Furthermore, we include comparative annotations about the same groups by annotators living in the region vs. those that are based in North America, and demonstrate that within-region stereotypes about groups differ from those prevalent in North America. CONTENT WARNING: This paper contains stereotype examples that may be offensive.