MiA-Signatur: Annäherung globaler Aktivierung für das Verständnis langer Kontexte

MiA-Signature: Approximating Global Activation for Long-Context Understanding

May 7, 2026

Autoren: Yuqing Li, Jiangnan Li, Mo Yu, Zheng Lin, Weiping Wang, Jie Zhou

cs.AI

Zusammenfassung

Eine zunehmende Anzahl von Studien in der Kognitionswissenschaft deutet darauf hin, dass bewusst zugängliche und berichtbare Prozesse mit einer globalen Aktivierung verteilter Gedächtnissysteme einhergehen, während diese Aktivierung selbst nur teilweise zugänglich ist, da Individuen nicht direkt auf alle aktivierten Inhalte zugreifen oder diese aufzählen können. Diese Spannung legt einen plausiblen Mechanismus nahe, wonach Kognition auf einer kompakten Repräsentation beruhen könnte, die den globalen Einfluss der Aktivierung auf nachgelagerte Prozesse approximiert. Inspiriert von dieser Idee führen wir das Konzept der "Mindscape Activation Signature" (MiA-Signatur) ein – eine komprimierte Darstellung des durch eine Anfrage induzierten globalen Aktivierungsmusters. In LLM-Systemen wird dies durch eine submodularbasierte Auswahl hochrangiger Konzepte instanziiert, die den aktivierten Kontextraum abdecken, optional verfeinert durch leichtgewichtige iterative Aktualisierungen mittels Arbeitsgedächtnis. Die resultierende MiA-Signatur dient als Konditionierungssignal, das die Wirkung des vollständigen Aktivierungszustands annähert, dabei aber rechentechnisch handhabbar bleibt. Die Integration von MiA-Signaturen in sowohl RAG- als auch agentenbasierte Systeme führt zu konsistenten Leistungssteigerungen in verschiedenen Aufgaben zum Verständnis langer Kontexte.

English

A growing body of work in cognitive science suggests that reportable conscious access is associated with global ignition over distributed memory systems, while such activation is only partially accessible as individuals cannot directly access or enumerate all activated contents. This tension suggests a plausible mechanism that cognition may rely on a compact representation that approximates the global influence of activation on downstream processing. Inspired by this idea, we introduce the concept of Mindscape Activation Signature (MiA-Signature), a compressed representation of the global activation pattern induced by a query. In LLM systems, this is instantiated via submodular-based selection of high-level concepts that cover the activated context space, optionally refined through lightweight iterative updates using working memory. The resulting MiA-Signature serves as a conditioning signal that approximates the effect of the full activation state while remaining computationally tractable. Integrating MiA-Signatures into both RAG and agentic systems yields consistent performance gains across multiple long-context understanding tasks.