MiA-Signature: Aproximação da Ativação Global para Compreensão de Contexto Longo

Resumo

Um crescente conjunto de trabalhos em ciência cognitiva sugere que o acesso consciente reportável está associado a uma ignição global sobre sistemas de memória distribuídos, enquanto tal ativação é apenas parcialmente acessível, uma vez que os indivíduos não podem aceder ou enumerar diretamente todos os conteúdos ativados. Esta tensão sugere um mecanismo plausível de que a cognição pode depender de uma representação compacta que aproxima a influência global da ativação no processamento subsequente. Inspirados por esta ideia, introduzimos o conceito de Assinatura de Ativação da Paisagem Mental (MiA-Signature), uma representação comprimida do padrão de ativação global induzido por uma consulta. Em sistemas de LLM, isto é instanciado através da seleção baseada em submodularidade de conceitos de alto nível que cobrem o espaço de contexto ativado, opcionalmente refinados através de atualizações iterativas leves usando memória de trabalho. A MiA-Signature resultante serve como um sinal de condicionamento que aproxima o efeito do estado completo de ativação, mantendo-se computacionalmente tratável. A integração de MiA-Signatures em sistemas de RAG e agentivos produz ganhos de desempenho consistentes em múltiplas tarefas de compreensão de contexto longo.

English

A growing body of work in cognitive science suggests that reportable conscious access is associated with global ignition over distributed memory systems, while such activation is only partially accessible as individuals cannot directly access or enumerate all activated contents. This tension suggests a plausible mechanism that cognition may rely on a compact representation that approximates the global influence of activation on downstream processing. Inspired by this idea, we introduce the concept of Mindscape Activation Signature (MiA-Signature), a compressed representation of the global activation pattern induced by a query. In LLM systems, this is instantiated via submodular-based selection of high-level concepts that cover the activated context space, optionally refined through lightweight iterative updates using working memory. The resulting MiA-Signature serves as a conditioning signal that approximates the effect of the full activation state while remaining computationally tractable. Integrating MiA-Signatures into both RAG and agentic systems yields consistent performance gains across multiple long-context understanding tasks.