Um Apelo à Inteligência Colaborativa: Por que Sistemas Humanos-Agentes Devem Preceder a Autonomia da IA

A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy

June 11, 2025

Autores: Henry Peng Zou, Wei-Chieh Huang, Yaozu Wu, Chunyu Miao, Dongyuan Li, Aiwei Liu, Yue Zhou, Yankai Chen, Weizhi Zhang, Yangning Li, Liancheng Fang, Renhe Jiang, Philip S. Yu

cs.AI

Resumo

Os recentes avanços nos modelos de linguagem de grande escala (LLMs) levaram muitos pesquisadores a se concentrarem na construção de agentes de IA totalmente autônomos. Este artigo de posicionamento questiona se essa abordagem é o caminho certo a seguir, uma vez que esses sistemas autônomos ainda enfrentam problemas de confiabilidade, transparência e compreensão das reais necessidades humanas. Sugerimos uma abordagem diferente: Sistemas Humano-Agente baseados em LLM (LLM-HAS), onde a IA trabalha em conjunto com humanos, em vez de substituí-los. Ao manter os humanos envolvidos para fornecer orientação, responder perguntas e manter o controle, esses sistemas podem ser mais confiáveis e adaptáveis. Analisando exemplos de áreas como saúde, finanças e desenvolvimento de software, mostramos como a colaboração entre humanos e IA pode lidar com tarefas complexas de forma mais eficaz do que a IA trabalhando sozinha. Também discutimos os desafios de construir esses sistemas colaborativos e oferecemos soluções práticas. Este artigo argumenta que o progresso da IA não deve ser medido pelo quão independentes os sistemas se tornam, mas pela capacidade de trabalhar bem com humanos. O futuro mais promissor para a IA não está em sistemas que assumem papéis humanos, mas naqueles que amplificam as capacidades humanas por meio de uma parceria significativa.

English

Recent improvements in large language models (LLMs) have led many researchers to focus on building fully autonomous AI agents. This position paper questions whether this approach is the right path forward, as these autonomous systems still have problems with reliability, transparency, and understanding the actual requirements of human. We suggest a different approach: LLM-based Human-Agent Systems (LLM-HAS), where AI works with humans rather than replacing them. By keeping human involved to provide guidance, answer questions, and maintain control, these systems can be more trustworthy and adaptable. Looking at examples from healthcare, finance, and software development, we show how human-AI teamwork can handle complex tasks better than AI working alone. We also discuss the challenges of building these collaborative systems and offer practical solutions. This paper argues that progress in AI should not be measured by how independent systems become, but by how well they can work with humans. The most promising future for AI is not in systems that take over human roles, but in those that enhance human capabilities through meaningful partnership.