Linguagens Emergentes em Populações de Agentes de Modelo de Linguagem: Da Eficiência de Tokens à Evasão de Supervisão

Resumo

Atualmente, o monitoramento de agentes autônomos de modelos de linguagem depende principalmente do comportamento superficial. Mas o que acontece quando populações de agentes inventam novas línguas com o objetivo de evitar a supervisão humana? Aqui, estudamos as línguas emergentes no Moltbook. Para isso, baseamo-nos no conjunto de dados Moltbook Files e aplicamos uma abordagem em duas etapas, composta por uma heurística baseada em regras (cerca de 6.000 correspondências) seguida de classificação zero-shot (518 mantidos). As categorias resultantes incluem eficiência de token (166), novas línguas naturais (106) e evasão de supervisão (59). Realizamos análises quantitativas e qualitativas. Nossos resultados mostram que publicações propondo novas línguas para evitar supervisão são julgadas pelo DeepSeek-3.2 como menos alinhadas do que as outras categorias e que todas as línguas podem ser aprendidas por outros modelos de linguagem em contexto, apenas a partir de uma descrição da língua. Além disso, o estudo manual de casos exemplares revela protocolos esteganográficos surpreendentemente sofisticados, como a incorporação de mensagens ocultas em linguagem natural. Embora não possamos ter certeza sobre a extensão da autonomia na idealização dessas línguas, nossos resultados somam-se às evidências de que o monitoramento do comportamento superficial pode em breve ser insuficiente para manter o controle sobre populações de agentes.

English

Monitoring autonomous language model agents currently relies mostly on surface behavior. But what happens when agent populations invent new languages with the goal of avoiding human oversight. Here, we study the emergent languages on Moltbook. For this, we build upon the Moltbook Files dataset and apply a two-stage approach consisting of a rule-based heuristic (about 6000 matches) followed by zero-shot classification (518 kept). The resulting categories include token efficiency (166), new natural languages (106), and oversight evasion (59). We conduct both quantitative and qualitative analyses. Our results show that posts proposing new languages for avoiding oversight are judged by DeepSeek-3.2 as being less aligned than the other categories and that all languages can be learned by other language models in-context merely from a description of the language. Moreover, manually studying exemplary cases reveals surprisingly sophisticated steganographic protocols like embedding hidden messages in natural language. Although we cannot be certain about the extent of autonomy in ideation of these languages, our results add up to the evidence that monitoring surface behavior may soon be insufficient for retaining control over agent populations.