MOSAIC: 다중 에이전트 시뮬레이션에서 콘텐츠 전파 및 규제를 위한 사회적 AI 모델링

MOSAIC: Modeling Social AI for Content Dissemination and Regulation in Multi-Agent Simulations

April 10, 2025

저자: Genglin Liu, Salman Rahman, Elisa Kreiss, Marzyeh Ghassemi, Saadia Gabriel

cs.AI

초록

우리는 새로운 오픈소스 소셜 네트워크 시뮬레이션 프레임워크인 MOSAIC을 소개합니다. 이 프레임워크에서는 생성형 언어 에이전트가 콘텐츠에 대한 좋아요, 공유, 신고와 같은 사용자 행동을 예측합니다. 이 시뮬레이션은 LLM(Large Language Model) 에이전트와 방향성 소셜 그래프를 결합하여, 사용자가 온라인 소셜 콘텐츠의 진위를 어떻게 판단하는지에 대한 이해를 높이고, 발생하는 기만 행동을 분석합니다. 다양한 세분화된 페르소나로부터 사용자 표현을 구성함으로써, 우리 시스템은 대규모로 콘텐츠 전파 및 참여 역학을 모델링하는 다중 에이전트 시뮬레이션을 가능하게 합니다. 이 프레임워크 내에서, 우리는 시뮬레이션된 허위 정보 전파를 통해 세 가지 다른 콘텐츠 중재 전략을 평가하고, 이러한 전략들이 비사실적 콘텐츠의 확산을 완화할 뿐만 아니라 사용자 참여를 증가시킨다는 것을 발견했습니다. 또한, 우리는 시뮬레이션에서 인기 있는 콘텐츠의 궤적을 분석하고, 시뮬레이션 에이전트들이 소셜 상호작용에 대해 명시적으로 제시한 이유가 실제로 그들의 집단적 참여 패턴과 일치하는지 탐구합니다. 우리는 AI와 사회과학 분야의 추가 연구를 장려하기 위해 시뮬레이션 소프트웨어를 오픈소스로 공개합니다.

English

We present a novel, open-source social network simulation framework, MOSAIC, where generative language agents predict user behaviors such as liking, sharing, and flagging content. This simulation combines LLM agents with a directed social graph to analyze emergent deception behaviors and gain a better understanding of how users determine the veracity of online social content. By constructing user representations from diverse fine-grained personas, our system enables multi-agent simulations that model content dissemination and engagement dynamics at scale. Within this framework, we evaluate three different content moderation strategies with simulated misinformation dissemination, and we find that they not only mitigate the spread of non-factual content but also increase user engagement. In addition, we analyze the trajectories of popular content in our simulations, and explore whether simulation agents' articulated reasoning for their social interactions truly aligns with their collective engagement patterns. We open-source our simulation software to encourage further research within AI and social sciences.