Σ-Mem: LLM 기반 다중 에이전트 시스템을 위한 온라인 신뢰성 메모리

초록

메모리는 장기 지평(long-horizon) LLM 에이전트의 핵심 요소이지만, 기존 메모리 시스템은 주로 상호작용 내용을 보존하는 데 초점을 맞출 뿐 어떤 에이전트를 어떤 조건에서 신뢰할 수 있는지를 모델링하지 않는다. 이러한 한계는 중앙 모델이 그럴듯하거나 상호 연관된 피어 응답을 직접 검증하지 못하는 다중 에이전트 시스템에서 특히 중요하다. 본 연구에서는 개별 피어에 대한 과거 역량 증거와 피어 집합 전반에 걸친 피어 관계 증거를 기록하는 온라인 신뢰도 메모리인 Σ-Mem을 소개한다. 두 형태의 증거 모두 실대칭 상태(real symmetric state)로 유지되며, 의사결정 이후의 정확성 피드백으로부터 갱신된다. 바일 부등식(Weyl's inequality)에 따르면 각 사건 수준 갱신으로 인한 스펙트럼 변화는 유계(bounded)이므로, 기저 모델을 재학습하지 않고도 안정적인 온라인 적응이 가능하다. Σ-Mem은 일반적인 쓰기-읽기 인터페이스를 제공하며, 동일한 메모리를 중앙 모델의 잔차 스티어링(residual steering), 응답 없는 피어 라우팅(response-free peer routing), 또는 신뢰도 가중 투표에 사용할 수 있다. 다섯 개의 Qwen 계열 모델에 걸친 실험에서 Σ-Mem은 반사실적 신뢰도 변화에 적응하고, 미관측 피어와 작업 영역에 일반화된다. 또한 직접 메모리 판독은 전체 OOD 평가 집합에서 다수결 투표와 최적 고정 피어를 능가한다. 더욱이 정확성 피드백이 축적될수록 성능이 일관되게 향상되는데, 이는 Σ-Mem이 실행 가능한 신뢰도 정보를 점진적으로 축적함을 시사한다. 이러한 결과는 신뢰도 메모리가 LLM 기반 다중 에이전트 시스템에서 적응적 조정을 위한 재사용 가능한 기반이 될 수 있음을 입증한다.

English

Memory is central to long-horizon LLM agents, yet existing memory systems primarily preserve interaction content rather than modeling which agents can be trusted and under what conditions. This limitation is particularly important in multi-agent systems, where a central model may be unable to directly verify plausible or correlated peer responses. We introduce Σ-Mem, an online reliability memory that records historical competence evidence for individual peers and peer relationship evidence across the peer set. Both forms of evidence are maintained as real symmetric states and updated from post-decision correctness feedback. By Weyl's inequality, the spectral change caused by each event-level update is bounded, enabling stable online adaptation without retraining the underlying models. Σ-Mem provides a general write-and-read interface: the same memory can be used for residual steering of a central model, response-free peer routing, or reliability-weighted voting. Across five Qwen-family models, Σ-Mem adapts to counterfactual reliability shifts and generalizes to unseen peers and task domains. Direct memory readouts also outperform majority voting and the best fixed peer over the full OOD evaluation set. Moreover, performance improves consistently as more correctness feedback becomes available, indicating that Σ-Mem progressively accumulates actionable reliability information. These results establish reliability memory as a reusable foundation for adaptive coordination in LLM-based multi-agent systems.