Verificação Atrasada Desestabiliza a Crença de LLM Multiagente: Limiares de Instabilidade e Posicionamento Ótimo do Corretor

Resumo

Sistemas de múltiplos agentes baseados em grandes modelos de linguagem (LLMs) frequentemente dependem de agentes verificadores e críticos para suprimir alucinações, mas a verificação é atrasada. Durante esse atraso, alegações falsas podem se propagar pela rede de agentes. Modelamos esse processo como consenso atrasado em um grafo com nós corretores fundamentados. A decomposição espectral pelo Laplaciano fundamentado produz um limiar de estabilidade de forma fechada para a dose de verificação: correção muito forte ou muito atrasada pode transformar consenso em oscilação. O regime mais instável ocorre quando os atrasos de comunicação e verificação coincidem; para atraso dois, o limiar é a razão áurea inversa. O mesmo arcabouço fornece um objetivo de posicionamento supermodular e uma regra de aproximação gulosa (1-1/e) para atribuir um orçamento limitado de correção a nós influentes. Experimentos em cinco modelos abertos confirmam as oscilações previstas de dose-atraso. Em contraste, a resposta factual fundamentada torna a verdade uma fronteira absorvente e elimina o efeito, sugerindo que a instabilidade é específica de tarefas de crença com sinal, enquanto a verificação fundamentada permanece estabilizadora.

English

Multi-agent large language model (LLM) systems often rely on verifier and critic agents to suppress hallucinations, but verification is delayed. During this delay, false claims can propagate through the agent network. We model this process as delayed consensus on a graph with grounded corrector nodes. Spectral decomposition by the grounded Laplacian yields a closed-form stability threshold for the verification dose: correction that is too strong or too delayed can turn consensus into oscillation. The most unstable regime occurs when the communication and verification delays coincide; for delay two, the threshold is the inverse golden ratio. The same framework gives a supermodular placement objective and a greedy (1-1/e)-approximation rule for assigning a limited corrector budget to influential nodes. Experiments across five open models confirm the predicted dose-delay oscillations. By contrast, grounded factual answering makes truth an absorbing boundary and eliminates the effect, suggesting that the instability is specific to signed-belief tasks while grounded verification remains stabilizing