Vertraagde verificatie destabiliseert de overtuiging van multi-agent-LLM: instabiliteitsdrempels en optimale plaatsing van correctoren

Samenvatting

Multi-agent systemen voor grote taalmodellen (LLM's) vertrouwen vaak op verifieer- en kritiekagenten om hallucinaties te onderdrukken, maar verificatie is vertraagd. Tijdens deze vertraging kunnen valse beweringen zich via het agentennetwerk verspreiden. We modelleren dit proces als vertraagde consensus op een graaf met verankerde correctorknooppunten. Spectrale decompositie door de verankerde Laplaciaan levert een gesloten-vorm stabiliteitsdrempel voor de verificatiedosis: correctie die te sterk of te vertraagd is, kan consensus in oscillatie veranderen. Het meest instabiele regime treedt op wanneer de communicatie- en verificatievertragingen samenvallen; voor vertraging twee is de drempel de inverse gulden snede. Hetzelfde raamwerk biedt een supermodulaire plaatsingsdoelstelling en een hebberige (1-1/e)-benaderingsregel voor het toewijzen van een beperkt correctorbudget aan invloedrijke knooppunten. Experimenten met vijf open modellen bevestigen de voorspelde dosis-vertragingsoscillaties. Daarentegen maakt verankerd feitelijk antwoorden de waarheid tot een absorberende grens en elimineert het effect, wat suggereert dat de instabiliteit specifiek is voor taken met getekende overtuigingen, terwijl verankerde verificatie stabiliserend blijft.

English

Multi-agent large language model (LLM) systems often rely on verifier and critic agents to suppress hallucinations, but verification is delayed. During this delay, false claims can propagate through the agent network. We model this process as delayed consensus on a graph with grounded corrector nodes. Spectral decomposition by the grounded Laplacian yields a closed-form stability threshold for the verification dose: correction that is too strong or too delayed can turn consensus into oscillation. The most unstable regime occurs when the communication and verification delays coincide; for delay two, the threshold is the inverse golden ratio. The same framework gives a supermodular placement objective and a greedy (1-1/e)-approximation rule for assigning a limited corrector budget to influential nodes. Experiments across five open models confirm the predicted dose-delay oscillations. By contrast, grounded factual answering makes truth an absorbing boundary and eliminates the effect, suggesting that the instability is specific to signed-belief tasks while grounded verification remains stabilizing