Het begrijpen van de digitale taal van Generatie Alpha: Evaluatie van LLM-veiligheidssystemen voor contentmoderatie
Understanding Gen Alpha Digital Language: Evaluation of LLM Safety Systems for Content Moderation
May 14, 2025
Auteurs: Manisha Mehta, Fausto Giunchiglia
cs.AI
Samenvatting
Dit onderzoek biedt een unieke evaluatie van hoe AI-systemen de digitale taal van Generatie Alpha (Gen Alpha, geboren tussen 2010 en 2024) interpreteren. Als de eerste generatie die opgroeit naast AI, wordt Gen Alpha geconfronteerd met nieuwe vormen van online risico’s als gevolg van intensieve digitale betrokkenheid en een groeiende mismatch tussen hun evoluerende communicatie en bestaande veiligheidstools. Hun kenmerkende taal, gevormd door gaming, memes en AI-gedreven trends, verbergt vaak schadelijke interacties voor zowel menselijke moderators als geautomatiseerde systemen. We evalueren vier toonaangevende AI-modellen (GPT-4, Claude, Gemini en Llama 3) op hun vermogen om verhulde intimidatie en manipulatie binnen het discours van Gen Alpha te detecteren. Met behulp van een dataset van 100 recente uitdrukkingen van gamingplatforms, sociale media en video-inhoud onthult de studie kritieke begripsfouten met directe gevolgen voor online veiligheid. Dit werk draagt bij: (1) een eerste-in-zijn-soort dataset die uitdrukkingen van Gen Alpha vastlegt; (2) een raamwerk om AI-moderatoren te verbeteren voor de bescherming van jongeren; (3) een multi-perspectief evaluatie, inclusief AI-systemen, menselijke moderators en ouders, met directe input van Gen Alpha mede-onderzoekers; en (4) een analyse van hoe linguïstische divergentie de kwetsbaarheid van jongeren vergroot. De bevindingen benadrukken de dringende noodzaak om veiligheidssystemen opnieuw te ontwerpen die afgestemd zijn op de communicatie van jongeren, vooral gezien de terughoudendheid van Gen Alpha om hulp te zoeken wanneer volwassenen hun digitale wereld niet begrijpen. Deze studie combineert het inzicht van een Gen Alpha-onderzoeker met systematische academische analyse om kritieke digitale veiligheidsuitdagingen aan te pakken.
English
This research offers a unique evaluation of how AI systems interpret the
digital language of Generation Alpha (Gen Alpha, born 2010-2024). As the first
cohort raised alongside AI, Gen Alpha faces new forms of online risk due to
immersive digital engagement and a growing mismatch between their evolving
communication and existing safety tools. Their distinct language, shaped by
gaming, memes, and AI-driven trends, often conceals harmful interactions from
both human moderators and automated systems. We assess four leading AI models
(GPT-4, Claude, Gemini, and Llama 3) on their ability to detect masked
harassment and manipulation within Gen Alpha discourse. Using a dataset of 100
recent expressions from gaming platforms, social media, and video content, the
study reveals critical comprehension failures with direct implications for
online safety. This work contributes: (1) a first-of-its-kind dataset capturing
Gen Alpha expressions; (2) a framework to improve AI moderation systems for
youth protection; (3) a multi-perspective evaluation including AI systems,
human moderators, and parents, with direct input from Gen Alpha co-researchers;
and (4) an analysis of how linguistic divergence increases youth vulnerability.
Findings highlight the urgent need to redesign safety systems attuned to youth
communication, especially given Gen Alpha reluctance to seek help when adults
fail to understand their digital world. This study combines the insight of a
Gen Alpha researcher with systematic academic analysis to address critical
digital safety challenges.