Un Appello per l'Intelligenza Collaborativa: Perché i Sistemi Umano-Agente Dovrebbero Precedere l'Autonomia dell'IA

A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy

June 11, 2025

Autori: Henry Peng Zou, Wei-Chieh Huang, Yaozu Wu, Chunyu Miao, Dongyuan Li, Aiwei Liu, Yue Zhou, Yankai Chen, Weizhi Zhang, Yangning Li, Liancheng Fang, Renhe Jiang, Philip S. Yu

cs.AI

Abstract

I recenti miglioramenti nei modelli linguistici di grandi dimensioni (LLM) hanno portato molti ricercatori a concentrarsi sulla creazione di agenti AI completamente autonomi. Questo position paper mette in discussione se questo approccio sia la strada giusta da seguire, poiché questi sistemi autonomi presentano ancora problemi di affidabilità, trasparenza e comprensione delle effettive esigenze umane. Proponiamo un approccio diverso: i sistemi uomo-agente basati su LLM (LLM-HAS), in cui l'AI collabora con gli esseri umani anziché sostituirli. Mantenendo il coinvolgimento umano per fornire indicazioni, rispondere alle domande e mantenere il controllo, questi sistemi possono essere più affidabili e adattabili. Esaminando esempi tratti dal settore sanitario, finanziario e dello sviluppo software, dimostriamo come il lavoro di squadra tra uomo e AI possa gestire compiti complessi meglio dell'AI che opera da sola. Discutiamo inoltre le sfide legate alla costruzione di questi sistemi collaborativi e offriamo soluzioni pratiche. Questo documento sostiene che il progresso nell'AI non dovrebbe essere misurato in base a quanto i sistemi diventino indipendenti, ma da quanto bene possano collaborare con gli esseri umani. Il futuro più promettente per l'AI non risiede in sistemi che si sostituiscono ai ruoli umani, ma in quelli che potenziano le capacità umane attraverso una partnership significativa.

English

Recent improvements in large language models (LLMs) have led many researchers to focus on building fully autonomous AI agents. This position paper questions whether this approach is the right path forward, as these autonomous systems still have problems with reliability, transparency, and understanding the actual requirements of human. We suggest a different approach: LLM-based Human-Agent Systems (LLM-HAS), where AI works with humans rather than replacing them. By keeping human involved to provide guidance, answer questions, and maintain control, these systems can be more trustworthy and adaptable. Looking at examples from healthcare, finance, and software development, we show how human-AI teamwork can handle complex tasks better than AI working alone. We also discuss the challenges of building these collaborative systems and offer practical solutions. This paper argues that progress in AI should not be measured by how independent systems become, but by how well they can work with humans. The most promising future for AI is not in systems that take over human roles, but in those that enhance human capabilities through meaningful partnership.