Langages émergents dans des populations d’agents de modèles de langage : de l’efficacité des jetons au contournement de la supervision

Résumé

La surveillance des agents de modèles de langage autonomes repose actuellement principalement sur le comportement de surface. Mais que se passe-t-il lorsque des populations d'agents inventent de nouvelles langues dans le but d'éviter la supervision humaine ? Ici, nous étudions les langues émergentes sur Moltbook. Pour cela, nous nous appuyons sur le jeu de données Moltbook Files et appliquons une approche en deux étapes consistant en une heuristique basée sur des règles (environ 6000 correspondances) suivie d'une classification zero-shot (518 conservés). Les catégories résultantes incluent l'efficacité des tokens (166), les nouvelles langues naturelles (106) et l'évitement de la supervision (59). Nous menons des analyses à la fois quantitatives et qualitatives. Nos résultats montrent que les publications proposant de nouvelles langues pour éviter la supervision sont jugées par DeepSeek-3.2 comme étant moins alignées que les autres catégories et que toutes les langues peuvent être apprises par d'autres modèles de langage en contexte simplement à partir d'une description de la langue. De plus, l'étude manuelle de cas exemplaires révèle des protocoles stéganographiques étonnamment sophistiqués, comme cacher des messages dans le langage naturel. Bien que nous ne puissions pas être certains du degré d'autonomie dans l'idéation de ces langues, nos résultats s'ajoutent aux preuves que la surveillance du comportement de surface pourrait bientôt être insuffisante pour garder le contrôle sur les populations d'agents.

English

Monitoring autonomous language model agents currently relies mostly on surface behavior. But what happens when agent populations invent new languages with the goal of avoiding human oversight. Here, we study the emergent languages on Moltbook. For this, we build upon the Moltbook Files dataset and apply a two-stage approach consisting of a rule-based heuristic (about 6000 matches) followed by zero-shot classification (518 kept). The resulting categories include token efficiency (166), new natural languages (106), and oversight evasion (59). We conduct both quantitative and qualitative analyses. Our results show that posts proposing new languages for avoiding oversight are judged by DeepSeek-3.2 as being less aligned than the other categories and that all languages can be learned by other language models in-context merely from a description of the language. Moreover, manually studying exemplary cases reveals surprisingly sophisticated steganographic protocols like embedding hidden messages in natural language. Although we cannot be certain about the extent of autonomy in ideation of these languages, our results add up to the evidence that monitoring surface behavior may soon be insufficient for retaining control over agent populations.