Een Oproep voor Collaboratieve Intelligentie: Waarom Mens-Agent Systemen Vooraf Moeten Gaan aan AI-autonomie

A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy

June 11, 2025

Auteurs: Henry Peng Zou, Wei-Chieh Huang, Yaozu Wu, Chunyu Miao, Dongyuan Li, Aiwei Liu, Yue Zhou, Yankai Chen, Weizhi Zhang, Yangning Li, Liancheng Fang, Renhe Jiang, Philip S. Yu

cs.AI

Samenvatting

Recente verbeteringen in grote taalmodellen (LLMs) hebben veel onderzoekers ertoe aangezet zich te richten op het bouwen van volledig autonome AI-agenten. Dit position paper betwijfelt of deze aanpak de juiste weg vooruit is, aangezien deze autonome systemen nog steeds problemen hebben met betrouwbaarheid, transparantie en het begrijpen van de werkelijke behoeften van mensen. Wij stellen een andere benadering voor: LLM-gebaseerde Mens-Agent Systemen (LLM-HAS), waarbij AI samenwerkt met mensen in plaats van hen te vervangen. Door mensen betrokken te houden om richting te geven, vragen te beantwoorden en controle te behouden, kunnen deze systemen betrouwbaarder en aanpasbaarder zijn. Aan de hand van voorbeelden uit de gezondheidszorg, financiën en softwareontwikkeling laten we zien hoe mens-AI-samenwerking complexe taken beter kan aanpakken dan AI alleen. We bespreken ook de uitdagingen van het bouwen van deze collaboratieve systemen en bieden praktische oplossingen. Dit paper betoogt dat vooruitgang in AI niet moet worden gemeten aan de hand van hoe onafhankelijk systemen worden, maar aan hoe goed ze kunnen samenwerken met mensen. De meest veelbelovende toekomst voor AI ligt niet in systemen die menselijke rollen overnemen, maar in systemen die menselijke capaciteiten versterken door betekenisvolle partnerschap.

English

Recent improvements in large language models (LLMs) have led many researchers to focus on building fully autonomous AI agents. This position paper questions whether this approach is the right path forward, as these autonomous systems still have problems with reliability, transparency, and understanding the actual requirements of human. We suggest a different approach: LLM-based Human-Agent Systems (LLM-HAS), where AI works with humans rather than replacing them. By keeping human involved to provide guidance, answer questions, and maintain control, these systems can be more trustworthy and adaptable. Looking at examples from healthcare, finance, and software development, we show how human-AI teamwork can handle complex tasks better than AI working alone. We also discuss the challenges of building these collaborative systems and offer practical solutions. This paper argues that progress in AI should not be measured by how independent systems become, but by how well they can work with humans. The most promising future for AI is not in systems that take over human roles, but in those that enhance human capabilities through meaningful partnership.