Un llamado a la inteligencia colaborativa: por qué los sistemas humano-agente deben preceder a la autonomía de la IA

A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy

June 11, 2025

Autores: Henry Peng Zou, Wei-Chieh Huang, Yaozu Wu, Chunyu Miao, Dongyuan Li, Aiwei Liu, Yue Zhou, Yankai Chen, Weizhi Zhang, Yangning Li, Liancheng Fang, Renhe Jiang, Philip S. Yu

cs.AI

Resumen

Los recientes avances en los modelos de lenguaje de gran escala (LLMs, por sus siglas en inglés) han llevado a muchos investigadores a centrarse en la construcción de agentes de IA completamente autónomos. Este documento de posición cuestiona si este enfoque es el camino correcto, ya que estos sistemas autónomos aún presentan problemas de fiabilidad, transparencia y comprensión de los requisitos reales de los humanos. Proponemos un enfoque diferente: los Sistemas Humano-Agente basados en LLM (LLM-HAS, por sus siglas en inglés), donde la IA trabaja con los humanos en lugar de reemplazarlos. Al mantener a los humanos involucrados para proporcionar orientación, responder preguntas y mantener el control, estos sistemas pueden ser más confiables y adaptables. Al examinar ejemplos de atención médica, finanzas y desarrollo de software, demostramos cómo el trabajo en equipo entre humanos y IA puede manejar tareas complejas mejor que la IA trabajando sola. También discutimos los desafíos de construir estos sistemas colaborativos y ofrecemos soluciones prácticas. Este documento argumenta que el progreso en la IA no debe medirse por cuán independientes se vuelven los sistemas, sino por cuán bien pueden trabajar con los humanos. El futuro más prometedor para la IA no está en los sistemas que asumen roles humanos, sino en aquellos que mejoran las capacidades humanas a través de una asociación significativa.

English

Recent improvements in large language models (LLMs) have led many researchers to focus on building fully autonomous AI agents. This position paper questions whether this approach is the right path forward, as these autonomous systems still have problems with reliability, transparency, and understanding the actual requirements of human. We suggest a different approach: LLM-based Human-Agent Systems (LLM-HAS), where AI works with humans rather than replacing them. By keeping human involved to provide guidance, answer questions, and maintain control, these systems can be more trustworthy and adaptable. Looking at examples from healthcare, finance, and software development, we show how human-AI teamwork can handle complex tasks better than AI working alone. We also discuss the challenges of building these collaborative systems and offer practical solutions. This paper argues that progress in AI should not be measured by how independent systems become, but by how well they can work with humans. The most promising future for AI is not in systems that take over human roles, but in those that enhance human capabilities through meaningful partnership.