La vérification retardée déstabilise la croyance des LLM multi-agents : seuils d'instabilité et placement optimal des correcteurs

Résumé

Les systèmes multi-agents basés sur de grands modèles de langage (LLM) reposent souvent sur des agents vérificateurs et critiques pour supprimer les hallucinations, mais la vérification est retardée. Pendant ce délai, des affirmations fausses peuvent se propager à travers le réseau d'agents. Nous modélisons ce processus comme un consensus retardé sur un graphe avec des nœuds correcteurs ancrés. La décomposition spectrale par le Laplacien ancré donne un seuil de stabilité sous forme fermée pour la dose de vérification : une correction trop forte ou trop retardée peut transformer le consensus en oscillation. Le régime le plus instable se produit lorsque les délais de communication et de vérification coïncident ; pour un délai de deux, le seuil est le nombre d'or inverse. Le même cadre fournit un objectif de placement supermodulaire et une règle d'approximation gloutonne (1-1/e) pour attribuer un budget limité de correcteurs aux nœuds influents. Des expériences sur cinq modèles ouverts confirment les oscillations dose-délai prédites. En revanche, la réponse factuelle ancrée fait de la vérité une frontière absorbante et élimine l'effet, suggérant que l'instabilité est spécifique aux tâches de croyance signée tandis que la vérification ancrée reste stabilisatrice.

English

Multi-agent large language model (LLM) systems often rely on verifier and critic agents to suppress hallucinations, but verification is delayed. During this delay, false claims can propagate through the agent network. We model this process as delayed consensus on a graph with grounded corrector nodes. Spectral decomposition by the grounded Laplacian yields a closed-form stability threshold for the verification dose: correction that is too strong or too delayed can turn consensus into oscillation. The most unstable regime occurs when the communication and verification delays coincide; for delay two, the threshold is the inverse golden ratio. The same framework gives a supermodular placement objective and a greedy (1-1/e)-approximation rule for assigning a limited corrector budget to influential nodes. Experiments across five open models confirm the predicted dose-delay oscillations. By contrast, grounded factual answering makes truth an absorbing boundary and eliminates the effect, suggesting that the instability is specific to signed-belief tasks while grounded verification remains stabilizing