SeeGULL: Een Stereotype Benchmark met Brede Geo-Culturele Dekking Gebruikmakend van Generatieve Modellen

SeeGULL: A Stereotype Benchmark with Broad Geo-Cultural Coverage Leveraging Generative Models

May 19, 2023

Auteurs: Akshita Jha, Aida Davani, Chandan K. Reddy, Shachi Dave, Vinodkumar Prabhakaran, Sunipa Dev

cs.AI

Samenvatting

Stereotype benchmarkdatasets zijn cruciaal om sociale stereotypen over groepen mensen in NLP-modellen te detecteren en te mitigeren. Bestaande datasets zijn echter beperkt in omvang en dekking, en zijn grotendeels beperkt tot stereotypen die prevalent zijn in de westerse samenleving. Dit is vooral problematisch omdat taaltechnologieën wereldwijd aan populariteit winnen. Om deze kloof te overbruggen, presenteren we SeeGULL, een breed gedekt stereotypedataset, gebouwd door gebruik te maken van de generatieve mogelijkheden van grote taalmodelen zoals PaLM en GPT-3, en door een wereldwijd diverse groep beoordelaars in te zetten om de prevalentie van deze stereotypen in de samenleving te valideren. SeeGULL is in het Engels en bevat stereotypen over identiteitsgroepen uit 178 landen verspreid over 8 verschillende geopolitieke regio's op 6 continenten, evenals staatsniveau-identiteiten binnen de VS en India. We nemen ook fijnmazige aanstootgevendheidsscores op voor verschillende stereotypen en demonstreren hun wereldwijde verschillen. Bovendien nemen we vergelijkende annotaties op over dezelfde groepen door annotators die in de regio wonen versus diegenen die in Noord-Amerika zijn gevestigd, en tonen we aan dat binnen-regio stereotypen over groepen verschillen van die welke prevalent zijn in Noord-Amerika. INHOUDWAARSCHUWING: Dit artikel bevat stereotype voorbeelden die aanstootgevend kunnen zijn.

English

Stereotype benchmark datasets are crucial to detect and mitigate social stereotypes about groups of people in NLP models. However, existing datasets are limited in size and coverage, and are largely restricted to stereotypes prevalent in the Western society. This is especially problematic as language technologies gain hold across the globe. To address this gap, we present SeeGULL, a broad-coverage stereotype dataset, built by utilizing generative capabilities of large language models such as PaLM, and GPT-3, and leveraging a globally diverse rater pool to validate the prevalence of those stereotypes in society. SeeGULL is in English, and contains stereotypes about identity groups spanning 178 countries across 8 different geo-political regions across 6 continents, as well as state-level identities within the US and India. We also include fine-grained offensiveness scores for different stereotypes and demonstrate their global disparities. Furthermore, we include comparative annotations about the same groups by annotators living in the region vs. those that are based in North America, and demonstrate that within-region stereotypes about groups differ from those prevalent in North America. CONTENT WARNING: This paper contains stereotype examples that may be offensive.