Verständnis der digitalen Sprache der Generation Alpha: Bewertung der Sicherheitssysteme von LLMs für die Inhaltsmoderation

Understanding Gen Alpha Digital Language: Evaluation of LLM Safety Systems for Content Moderation

May 14, 2025

Autoren: Manisha Mehta, Fausto Giunchiglia

cs.AI

Zusammenfassung

Diese Forschung bietet eine einzigartige Bewertung, wie KI-Systeme die digitale Sprache der Generation Alpha (Gen Alpha, geboren 2010–2024) interpretieren. Als erste Kohorte, die gemeinsam mit KI aufwächst, sieht sich Gen Alpha neuen Formen von Online-Risiken ausgesetzt, die auf ein intensives digitales Engagement und eine wachsende Diskrepanz zwischen ihrer sich entwickelnden Kommunikation und bestehenden Sicherheitstools zurückzuführen sind. Ihre einzigartige Sprache, geprägt durch Gaming, Memes und KI-getriebene Trends, verbirgt oft schädliche Interaktionen vor menschlichen Moderatoren und automatisierten Systemen. Wir bewerten vier führende KI-Modelle (GPT-4, Claude, Gemini und Llama 3) hinsichtlich ihrer Fähigkeit, verschleierte Belästigung und Manipulation im Diskurs von Gen Alpha zu erkennen. Anhand eines Datensatzes von 100 aktuellen Ausdrücken aus Gaming-Plattformen, sozialen Medien und Videoinhalten zeigt die Studie kritische Verständnislücken mit direkten Auswirkungen auf die Online-Sicherheit auf. Diese Arbeit leistet folgende Beiträge: (1) einen erstmalig erstellten Datensatz, der Ausdrücke von Gen Alpha erfasst; (2) ein Rahmenwerk zur Verbesserung von KI-Moderationssystemen für den Jugendschutz; (3) eine multiperspektivische Bewertung, die KI-Systeme, menschliche Moderatoren und Eltern sowie direkte Beiträge von Gen Alpha-Mitforschenden umfasst; und (4) eine Analyse, wie linguistische Abweichungen die Verwundbarkeit von Jugendlichen erhöhen. Die Ergebnisse unterstreichen die dringende Notwendigkeit, Sicherheitssysteme neu zu gestalten, die auf die Kommunikation von Jugendlichen abgestimmt sind, insbesondere angesichts der Zurückhaltung von Gen Alpha, Hilfe zu suchen, wenn Erwachsene ihre digitale Welt nicht verstehen. Diese Studie kombiniert die Einsichten eines Gen Alpha-Forschers mit systematischer akademischer Analyse, um kritische Herausforderungen der digitalen Sicherheit zu adressieren.

English

This research offers a unique evaluation of how AI systems interpret the digital language of Generation Alpha (Gen Alpha, born 2010-2024). As the first cohort raised alongside AI, Gen Alpha faces new forms of online risk due to immersive digital engagement and a growing mismatch between their evolving communication and existing safety tools. Their distinct language, shaped by gaming, memes, and AI-driven trends, often conceals harmful interactions from both human moderators and automated systems. We assess four leading AI models (GPT-4, Claude, Gemini, and Llama 3) on their ability to detect masked harassment and manipulation within Gen Alpha discourse. Using a dataset of 100 recent expressions from gaming platforms, social media, and video content, the study reveals critical comprehension failures with direct implications for online safety. This work contributes: (1) a first-of-its-kind dataset capturing Gen Alpha expressions; (2) a framework to improve AI moderation systems for youth protection; (3) a multi-perspective evaluation including AI systems, human moderators, and parents, with direct input from Gen Alpha co-researchers; and (4) an analysis of how linguistic divergence increases youth vulnerability. Findings highlight the urgent need to redesign safety systems attuned to youth communication, especially given Gen Alpha reluctance to seek help when adults fail to understand their digital world. This study combines the insight of a Gen Alpha researcher with systematic academic analysis to address critical digital safety challenges.