MOSAIC : Modélisation de l'IA Sociale pour la Dissémination et la Régulation de Contenu dans les Simulations Multi-Agents

MOSAIC: Modeling Social AI for Content Dissemination and Regulation in Multi-Agent Simulations

April 10, 2025

Auteurs: Genglin Liu, Salman Rahman, Elisa Kreiss, Marzyeh Ghassemi, Saadia Gabriel

cs.AI

Résumé

Nous présentons MOSAIC, un nouveau cadre de simulation de réseau social open-source, où des agents de langage génératif prédisent les comportements des utilisateurs tels que l'appréciation, le partage et le signalement de contenu. Cette simulation combine des agents LLM avec un graphe social orienté pour analyser les comportements émergents de tromperie et mieux comprendre comment les utilisateurs déterminent la véracité du contenu social en ligne. En construisant des représentations d'utilisateurs à partir de personnalités diverses et granulaires, notre système permet des simulations multi-agents qui modélisent la diffusion de contenu et les dynamiques d'engagement à grande échelle. Dans ce cadre, nous évaluons trois stratégies différentes de modération de contenu avec une diffusion simulée de désinformation, et nous constatons qu'elles non seulement atténuent la propagation de contenu non factuel, mais augmentent également l'engagement des utilisateurs. De plus, nous analysons les trajectoires du contenu populaire dans nos simulations, et explorons si le raisonnement articulé des agents de simulation pour leurs interactions sociales correspond véritablement à leurs modèles collectifs d'engagement. Nous rendons notre logiciel de simulation open-source pour encourager des recherches supplémentaires en IA et en sciences sociales.

English

We present a novel, open-source social network simulation framework, MOSAIC, where generative language agents predict user behaviors such as liking, sharing, and flagging content. This simulation combines LLM agents with a directed social graph to analyze emergent deception behaviors and gain a better understanding of how users determine the veracity of online social content. By constructing user representations from diverse fine-grained personas, our system enables multi-agent simulations that model content dissemination and engagement dynamics at scale. Within this framework, we evaluate three different content moderation strategies with simulated misinformation dissemination, and we find that they not only mitigate the spread of non-factual content but also increase user engagement. In addition, we analyze the trajectories of popular content in our simulations, and explore whether simulation agents' articulated reasoning for their social interactions truly aligns with their collective engagement patterns. We open-source our simulation software to encourage further research within AI and social sciences.