MiA-Signature: 장문 컨텍스트 이해를 위한 글로벌 활성화 근사 기법

MiA-Signature: Approximating Global Activation for Long-Context Understanding

May 7, 2026

저자: Yuqing Li, Jiangnan Li, Mo Yu, Zheng Lin, Weiping Wang, Jie Zhou

cs.AI

초록

인지 과학 분야의 연구 결과가 축적되면서 보고 가능한 의식적 접근은 분산된 기억 시스템 전반에 걸친 전역 점화(global ignition)와 연관되어 있으나, 이러한 활성화는 개인이 활성화된 모든 내용에 직접 접근하거나 열거할 수 없기 때문에 부분적으로만 접근 가능한 것으로 나타났다. 이러한 긴장 관계는 인지가 다운스트림 처리에 미치는 활성화의 전역적 영향을 근사하는 간결한 표현에 의존할 수 있다는 합리적 메커니즘을 시사한다. 이 아이디어에서 영감을 받아, 본 연구에서는 쿼리에 의해 유도된 전역 활성화 패턴의 압축된 표현인 마인드스케이프 활성화 시그니처(MiA-Signature) 개념을 제안한다. LLM 시스템에서 이는 활성화된 컨텍스트 공간을 포괄하는 고수준 개념들의 서브모듈러 기반 선택을 통해 구현되며, 선택적으로 작업 기억을 이용한 경량의 반복적 업데이트를 통해 정제된다. 그 결과 생성된 MiA-Signature는 전체 활성화 상태의 효과를 근사하면서도 계산적으로 다루기 쉬운 조건화 신호로 작용한다. MiA-Signature를 RAG 및 에이전트 시스템에 통합하면 여러 장문 컨텍스트 이해 과제에서 일관된 성능 향상을 얻을 수 있다.

English

A growing body of work in cognitive science suggests that reportable conscious access is associated with global ignition over distributed memory systems, while such activation is only partially accessible as individuals cannot directly access or enumerate all activated contents. This tension suggests a plausible mechanism that cognition may rely on a compact representation that approximates the global influence of activation on downstream processing. Inspired by this idea, we introduce the concept of Mindscape Activation Signature (MiA-Signature), a compressed representation of the global activation pattern induced by a query. In LLM systems, this is instantiated via submodular-based selection of high-level concepts that cover the activated context space, optionally refined through lightweight iterative updates using working memory. The resulting MiA-Signature serves as a conditioning signal that approximates the effect of the full activation state while remaining computationally tractable. Integrating MiA-Signatures into both RAG and agentic systems yields consistent performance gains across multiple long-context understanding tasks.