Ein Aufruf zur kollaborativen Intelligenz: Warum Mensch-Agenten-Systeme der KI-Autonomie vorausgehen sollten

A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy

June 11, 2025

Autoren: Henry Peng Zou, Wei-Chieh Huang, Yaozu Wu, Chunyu Miao, Dongyuan Li, Aiwei Liu, Yue Zhou, Yankai Chen, Weizhi Zhang, Yangning Li, Liancheng Fang, Renhe Jiang, Philip S. Yu

cs.AI

Zusammenfassung

Jüngste Fortschritte bei großen Sprachmodellen (Large Language Models, LLMs) haben viele Forscher dazu veranlasst, sich auf den Aufbau vollständig autonomer KI-Agenten zu konzentrieren. Dieses Positionspapier stellt infrage, ob dieser Ansatz der richtige Weg nach vorne ist, da diese autonomen Systeme weiterhin Probleme mit Zuverlässigkeit, Transparenz und dem Verständnis der tatsächlichen menschlichen Anforderungen haben. Wir schlagen einen anderen Ansatz vor: LLM-basierte Mensch-Agenten-Systeme (LLM-HAS), bei denen KI mit Menschen zusammenarbeitet, anstatt sie zu ersetzen. Indem der Mensch einbezogen bleibt, um Anleitung zu geben, Fragen zu beantworten und die Kontrolle zu behalten, können diese Systeme vertrauenswürdiger und anpassungsfähiger sein. Anhand von Beispielen aus den Bereichen Gesundheitswesen, Finanzen und Softwareentwicklung zeigen wir, wie die Zusammenarbeit zwischen Mensch und KI komplexe Aufgaben besser bewältigen kann als KI allein. Wir diskutieren auch die Herausforderungen beim Aufbau dieser kollaborativen Systeme und bieten praktische Lösungen an. Dieses Papier argumentiert, dass der Fortschritt in der KI nicht daran gemessen werden sollte, wie unabhängig Systeme werden, sondern daran, wie gut sie mit Menschen zusammenarbeiten können. Die vielversprechendste Zukunft der KI liegt nicht in Systemen, die menschliche Rollen übernehmen, sondern in solchen, die menschliche Fähigkeiten durch eine sinnvolle Partnerschaft erweitern.

English

Recent improvements in large language models (LLMs) have led many researchers to focus on building fully autonomous AI agents. This position paper questions whether this approach is the right path forward, as these autonomous systems still have problems with reliability, transparency, and understanding the actual requirements of human. We suggest a different approach: LLM-based Human-Agent Systems (LLM-HAS), where AI works with humans rather than replacing them. By keeping human involved to provide guidance, answer questions, and maintain control, these systems can be more trustworthy and adaptable. Looking at examples from healthcare, finance, and software development, we show how human-AI teamwork can handle complex tasks better than AI working alone. We also discuss the challenges of building these collaborative systems and offer practical solutions. This paper argues that progress in AI should not be measured by how independent systems become, but by how well they can work with humans. The most promising future for AI is not in systems that take over human roles, but in those that enhance human capabilities through meaningful partnership.