ジェネレーションアルファのデジタル言語理解：コンテンツモデレーションのためのLLM安全性システムの評価

Understanding Gen Alpha Digital Language: Evaluation of LLM Safety Systems for Content Moderation

May 14, 2025

著者: Manisha Mehta, Fausto Giunchiglia

cs.AI

要旨

本研究は、AIシステムがジェネレーションアルファ（Gen Alpha、2010-2024年生まれ）のデジタル言語をどのように解釈するかについて、独自の評価を提供する。AIと共に育った最初の世代であるGen Alphaは、没入型のデジタルエンゲージメントと、進化するコミュニケーションと既存の安全ツールとの間のミスマッチの拡大により、新たな形態のオンラインリスクに直面している。ゲーム、ミーム、AI駆動のトレンドによって形成された彼らの独特の言語は、人間のモデレーターと自動化システムの両方から有害な相互作用を隠すことが多い。本研究では、4つの主要なAIモデル（GPT-4、Claude、Gemini、Llama 3）が、Gen Alphaの言説内で隠されたハラスメントや操作を検出する能力を評価する。ゲームプラットフォーム、ソーシャルメディア、ビデオコンテンツから収集した100の最新の表現を含むデータセットを使用し、オンライン安全に直接的な影響を及ぼす重大な理解の失敗を明らかにする。本研究の貢献は以下の通りである：（1）Gen Alphaの表現を捉えた初のデータセット；（2）若者保護のためのAIモデレーションシステムを改善するフレームワーク；（3）AIシステム、人間のモデレーター、親を含む多角的な評価、およびGen Alphaの共同研究者からの直接的な意見；（4）言語的分岐が若者の脆弱性をどのように増大させるかの分析。調査結果は、特にGen Alphaが大人が彼らのデジタル世界を理解できない場合に助けを求めることを躊躇することを考慮し、若者のコミュニケーションに適した安全システムを再設計する緊急の必要性を強調する。本研究は、Gen Alphaの研究者の洞察と体系的な学術分析を組み合わせ、重要なデジタル安全の課題に取り組む。

English

This research offers a unique evaluation of how AI systems interpret the digital language of Generation Alpha (Gen Alpha, born 2010-2024). As the first cohort raised alongside AI, Gen Alpha faces new forms of online risk due to immersive digital engagement and a growing mismatch between their evolving communication and existing safety tools. Their distinct language, shaped by gaming, memes, and AI-driven trends, often conceals harmful interactions from both human moderators and automated systems. We assess four leading AI models (GPT-4, Claude, Gemini, and Llama 3) on their ability to detect masked harassment and manipulation within Gen Alpha discourse. Using a dataset of 100 recent expressions from gaming platforms, social media, and video content, the study reveals critical comprehension failures with direct implications for online safety. This work contributes: (1) a first-of-its-kind dataset capturing Gen Alpha expressions; (2) a framework to improve AI moderation systems for youth protection; (3) a multi-perspective evaluation including AI systems, human moderators, and parents, with direct input from Gen Alpha co-researchers; and (4) an analysis of how linguistic divergence increases youth vulnerability. Findings highlight the urgent need to redesign safety systems attuned to youth communication, especially given Gen Alpha reluctance to seek help when adults fail to understand their digital world. This study combines the insight of a Gen Alpha researcher with systematic academic analysis to address critical digital safety challenges.