なぜマルチエージェントLLMシステムは失敗するのか？

Why Do Multi-Agent LLM Systems Fail?

March 17, 2025

著者: Mert Cemri, Melissa Z. Pan, Shuyi Yang, Lakshya A. Agrawal, Bhavya Chopra, Rishabh Tiwari, Kurt Keutzer, Aditya Parameswaran, Dan Klein, Kannan Ramchandran, Matei Zaharia, Joseph E. Gonzalez, Ion Stoica

cs.AI

要旨

マルチエージェントシステム（MAS）に対する熱意が高まる中、複数のLLMエージェントが協力してタスクを達成するというアプローチが注目されています。しかし、人気のあるベンチマークにおいて、その性能向上はシングルエージェントフレームワークと比べて最小限に留まっています。このギャップは、MASの効果を妨げる課題を分析する必要性を浮き彫りにしています。 本論文では、MASの課題に関する初の包括的な研究を提示します。150以上のタスクにわたる5つの人気MASフレームワークを分析し、6人の専門家による人間アノテーターを関与させました。14の独自の失敗モードを特定し、さまざまなMASフレームワークに適用可能な包括的な分類体系を提案します。この分類体系は、研究ごとに3人の専門家アノテーター間の合意から反復的に導き出され、CohenのKappaスコア0.88を達成しました。これらの詳細な失敗モードは、(i)仕様とシステム設計の失敗、(ii)エージェント間の不一致、(iii)タスク検証と終了の3つのカテゴリに整理されています。スケーラブルな評価を支援するため、MASFTをLLM-as-a-Judgeと統合しました。また、特定された失敗が簡単に防止できるかどうかを探るため、エージェントの役割の仕様改善とオーケストレーション戦略の強化という2つの介入を提案しました。私たちの調査結果は、特定された失敗にはより複雑な解決策が必要であることを明らかにし、将来の研究のための明確なロードマップを示しています。データセットとLLMアノテーターをオープンソース化しました。

English

Despite growing enthusiasm for Multi-Agent Systems (MAS), where multiple LLM agents collaborate to accomplish tasks, their performance gains across popular benchmarks remain minimal compared to single-agent frameworks. This gap highlights the need to analyze the challenges hindering MAS effectiveness. In this paper, we present the first comprehensive study of MAS challenges. We analyze five popular MAS frameworks across over 150 tasks, involving six expert human annotators. We identify 14 unique failure modes and propose a comprehensive taxonomy applicable to various MAS frameworks. This taxonomy emerges iteratively from agreements among three expert annotators per study, achieving a Cohen's Kappa score of 0.88. These fine-grained failure modes are organized into 3 categories, (i) specification and system design failures, (ii) inter-agent misalignment, and (iii) task verification and termination. To support scalable evaluation, we integrate MASFT with LLM-as-a-Judge. We also explore if identified failures could be easily prevented by proposing two interventions: improved specification of agent roles and enhanced orchestration strategies. Our findings reveal that identified failures require more complex solutions, highlighting a clear roadmap for future research. We open-source our dataset and LLM annotator.