Un appel à l'intelligence collaborative : Pourquoi les systèmes humains-agents devraient précéder l'autonomie de l'IA

A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy

June 11, 2025

Auteurs: Henry Peng Zou, Wei-Chieh Huang, Yaozu Wu, Chunyu Miao, Dongyuan Li, Aiwei Liu, Yue Zhou, Yankai Chen, Weizhi Zhang, Yangning Li, Liancheng Fang, Renhe Jiang, Philip S. Yu

cs.AI

Résumé

Les récentes avancées dans les modèles de langage de grande taille (LLMs) ont conduit de nombreux chercheurs à se concentrer sur le développement d'agents IA entièrement autonomes. Ce document de position remet en question la pertinence de cette approche, car ces systèmes autonomes rencontrent encore des problèmes de fiabilité, de transparence et de compréhension des véritables besoins humains. Nous proposons une approche alternative : les systèmes humain-agent basés sur des LLMs (LLM-HAS), où l'IA travaille en collaboration avec les humains plutôt que de les remplacer. En maintenant l'implication humaine pour fournir des conseils, répondre aux questions et conserver le contrôle, ces systèmes peuvent être plus fiables et adaptables. En examinant des exemples issus des domaines de la santé, de la finance et du développement logiciel, nous montrons comment la collaboration humain-IA peut mieux gérer des tâches complexes que l'IA seule. Nous abordons également les défis liés à la construction de ces systèmes collaboratifs et proposons des solutions pratiques. Ce document soutient que les progrès en IA ne devraient pas être mesurés par le degré d'indépendance des systèmes, mais par leur capacité à travailler efficacement avec les humains. L'avenir le plus prometteur pour l'IA ne réside pas dans des systèmes qui prennent le relais des rôles humains, mais dans ceux qui renforcent les capacités humaines grâce à un partenariat significatif.

English

Recent improvements in large language models (LLMs) have led many researchers to focus on building fully autonomous AI agents. This position paper questions whether this approach is the right path forward, as these autonomous systems still have problems with reliability, transparency, and understanding the actual requirements of human. We suggest a different approach: LLM-based Human-Agent Systems (LLM-HAS), where AI works with humans rather than replacing them. By keeping human involved to provide guidance, answer questions, and maintain control, these systems can be more trustworthy and adaptable. Looking at examples from healthcare, finance, and software development, we show how human-AI teamwork can handle complex tasks better than AI working alone. We also discuss the challenges of building these collaborative systems and offer practical solutions. This paper argues that progress in AI should not be measured by how independent systems become, but by how well they can work with humans. The most promising future for AI is not in systems that take over human roles, but in those that enhance human capabilities through meaningful partnership.