ChatPaper.aiChatPaper

O Eixo de Granularidade: Uma Direção Latente Micro-a-Macro para Papéis Sociais em Modelos de Linguagem

The Granularity Axis: A Micro-to-Macro Latent Direction for Social Roles in Language Models

May 7, 2026
Autores: Chonghan Qin, Xiachong Feng, Ziyun Song, Xiaocheng Feng, Jing Xiong, Lingpeng Kong
cs.AI

Resumo

Os grandes modelos de linguagem (LLMs) são frequentemente instruídos a assumir papéis sociais que variam de indivíduos a instituições, mas permanece incerto se suas representações internas codificam a granularidade desses papéis, desde a experiência individual em nível micro até o raciocínio organizacional, institucional ou nacional em nível macro. Nós demonstramos que eles o fazem. Definimos um Eixo de Granularidade baseado em contraste como a diferença entre os estados ocultos médios dos papéis macro e micro. No Qwen3-8B, esse eixo se alinha com o eixo principal (PC1) do espaço de representação de papéis com um cosseno de 0,972 e responde por 52,6% de sua variância, indicando que a granularidade é o eixo geométrico dominante que organiza os papéis sociais solicitados. Construímos 75 papéis sociais em cinco níveis de granularidade e coletamos 91.200 respostas condicionadas por papéis para perguntas compartilhadas e variantes de instrução, depois extraímos os estados ocultos no nível do papel e os projetamos no eixo. As projeções dos papéis aumentam monotonicamente em todos os cinco níveis, permanecem estáveis entre camadas, variantes de instrução, definições de endpoint, divisões de validação e subconjuntos filtrados por pontuação, e transferem-se para o Llama-3.1-8B-Instruct. O eixo também é causalmente relevante: a ativação por *steering* ao longo dele altera a granularidade da resposta na direção prevista, com o Llama passando de 2,00 para 3,17 em uma escala macro de cinco pontos sob *steering* positivo em instruções que admitem respostas locais. Os dois modelos diferem em controllability, sugerindo que o *steering* depende do regime operacional padrão de cada modelo. No geral, nossos achados sugerem que a granularidade do papel social não é meramente uma característica superficial estilística, mas uma direção latente estruturada, ordenada e causalmente manipulável no comportamento do modelo de linguagem condicionado por papéis.
English
Large language models (LLMs) are routinely prompted to take on social roles ranging from individuals to institutions, yet it remains unclear whether their internal representations encode the granularity of such roles, from micro-level individual experience to macro-level organizational, institutional, or national reasoning. We show that they do. We define a contrast-based Granularity Axis as the difference between mean macro- and micro-role hidden states. In Qwen3-8B, this axis aligns with the principal axis (PC1) of the role representation space at cosine 0.972 and accounts for 52.6% of its variance, indicating that granularity is the dominant geometric axis organizing prompted social roles. We construct 75 social roles across five granularity levels and collect 91,200 role-conditioned responses over shared questions and prompt variants, then extract role-level hidden states and project them onto the axis. Role projections increase monotonically across all five levels, remain stable across layers, prompt variants, endpoint definitions, held-out splits, and score-filtered subsets, and transfer to Llama-3.1-8B-Instruct. The axis is also causally relevant: activation steering along it shifts response granularity in the predicted direction, with Llama moving from 2.00 to 3.17 on a five-point macro scale under positive steering on prompts that admit local responses. The two models differ in controllability, suggesting that steering depends on each model's default operating regime. Overall, our findings suggest that social role granularity is not merely a stylistic surface feature, but a structured, ordered, and causally manipulable latent direction in role-conditioned language model behavior.