Sistemas Multiagentes Descentralizados com Contexto Compartilhado

Resumo

Sistemas multiagente (MAS) podem escalar o raciocínio de modelos de linguagem de grande porte em tempo de teste, decompondo problemas complexos em subtarefas paralelas. No entanto, a maioria dos MAS existentes depende de orquestração centralizada, onde um agente principal atribui trabalho, coleta as saídas e mescla os resultados. À medida que o número de subtarefas cresce, esse controlador se torna um gargalo de comunicação e integração. Propomos o Decentralized Language Models (DeLM), uma estrutura MAS que descentraliza a coordenação por meio de agentes paralelos, um contexto verificado compartilhado e uma fila de tarefas. Os agentes reivindicam subtarefas de forma assíncrona, leem o progresso acumulado, realizam raciocínio local e escrevem atualizações verificadas e compactas. O contexto compartilhado atua como um substrato comum de comunicação, permitindo que os agentes construam a partir do progresso verificado uns dos outros sem rotear cada atualização por um controlador central. Empiricamente, o DeLM melhora tanto a escalabilidade em tempo de teste na engenharia de software quanto o raciocínio de contexto longo. No SWE-bench Verified, o DeLM alcança o melhor desempenho em Avg.@1, Pass@2 e Pass@4, com ganhos de até 10,5 pontos percentuais sobre a linha de base mais forte, além de reduzir o custo por tarefa em aproximadamente 50%. No LongBench-v2 Multi-Doc QA, o DeLM atinge a maior precisão média em quatro famílias de modelos de fronteira, melhorando em até 5,7 pontos percentuais em relação à linha de base mais forte. O código está disponível em nosso site do projeto em https://yuzhenmao.github.io/DeLM/.

English

Multi-agent systems (MAS) can scale large language model reasoning at test time by decomposing complex problems into parallel subtasks. However, most existing MAS rely on centralized orchestration, where a main agent assigns work, collects outputs, and merges results. As the number of subtasks grows, this controller becomes a communication and integration bottleneck. We propose Decentralized Language Models (DeLM), a MAS framework that decentralizes coordination through parallel agents, a shared verified context, and a task queue. Agents asynchronously claim subtasks, read accumulated progress, perform local reasoning, and write back compact verified updates. The shared context acts as a common communication substrate, enabling agents to build on one another's verified progress without routing every update through a central controller. Empirically, DeLM improves both software-engineering test-time scaling and long-context reasoning. On SWE-bench Verified, DeLM achieves the best performance across Avg.@1, Pass@2, and Pass@4, with gains of up to 10.5 percentage points over the strongest baseline, while reducing cost per task by roughly 50%. On LongBench-v2 Multi-Doc QA, DeLM achieves the highest average accuracy across four frontier model families, improving over the strongest baseline by up to 5.7 percentage points. The code is available on our project website at https://yuzhenmao.github.io/DeLM/.