지연된 검증이 다중 에이전트 LLM 신념을 불안정화함: 불안정 임계값과 최적 교정기 배치

초록

다중 에이전트 대규모 언어 모델(LLM) 시스템은 종종 검증 에이전트와 비평 에이전트를 활용하여 환각을 억제하지만, 검증 과정에는 지연이 발생한다. 이 지연 동안 거짓 주장이 에이전트 네트워크를 통해 전파될 수 있다. 우리는 이 과정을 접지된 교정 노드가 있는 그래프 상의 지연된 합의로 모델링한다. 접지 라플라시안에 의한 스펙트럼 분해는 검증 용량에 대한 닫힌 형태의 안정성 임계값을 제공한다. 즉, 너무 강하거나 너무 지연된 교정은 합의를 진동으로 전환시킬 수 있다. 가장 불안정한 영역은 통신 지연과 검증 지연이 일치할 때 발생하며, 지연이 2인 경우 임계값은 역 황금비이다. 동일한 프레임워크는 초모듈러 배치 목적 함수와 제한된 교정 자원을 영향력 있는 노드에 할당하기 위한 탐욕적 (1-1/e) 근사 규칙을 제공한다. 5개의 공개 모델을 대상으로 한 실험은 예측된 용량-지연 진동을 확인한다. 이와 대조적으로, 접지된 사실 기반 응답은 진리를 흡수 경계로 만들어 그 효과를 제거하며, 이는 불안정성이 부호화된 신념 작업에 특화되어 있고 접지된 검증은 여전히 안정화한다는 것을 시사한다.

English

Multi-agent large language model (LLM) systems often rely on verifier and critic agents to suppress hallucinations, but verification is delayed. During this delay, false claims can propagate through the agent network. We model this process as delayed consensus on a graph with grounded corrector nodes. Spectral decomposition by the grounded Laplacian yields a closed-form stability threshold for the verification dose: correction that is too strong or too delayed can turn consensus into oscillation. The most unstable regime occurs when the communication and verification delays coincide; for delay two, the threshold is the inverse golden ratio. The same framework gives a supermodular placement objective and a greedy (1-1/e)-approximation rule for assigning a limited corrector budget to influential nodes. Experiments across five open models confirm the predicted dose-delay oscillations. By contrast, grounded factual answering makes truth an absorbing boundary and eliminates the effect, suggesting that the instability is specific to signed-belief tasks while grounded verification remains stabilizing