Призыв к коллективному интеллекту: почему системы взаимодействия человека и агента должны предшествовать автономии искусственного интеллекта

A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy

June 11, 2025

Авторы: Henry Peng Zou, Wei-Chieh Huang, Yaozu Wu, Chunyu Miao, Dongyuan Li, Aiwei Liu, Yue Zhou, Yankai Chen, Weizhi Zhang, Yangning Li, Liancheng Fang, Renhe Jiang, Philip S. Yu

cs.AI

Аннотация

Недавние улучшения в области больших языковых моделей (LLM) привлекли внимание многих исследователей к созданию полностью автономных ИИ-агентов. В данной позиционной статье ставится под сомнение, является ли такой подход правильным направлением, поскольку автономные системы по-прежнему сталкиваются с проблемами надежности, прозрачности и понимания реальных потребностей человека. Мы предлагаем альтернативный подход: системы взаимодействия человека и агента на основе LLM (LLM-HAS), где ИИ работает совместно с человеком, а не заменяет его. Сохраняя вовлеченность человека для предоставления рекомендаций, ответов на вопросы и поддержания контроля, такие системы могут быть более надежными и адаптивными. Рассматривая примеры из здравоохранения, финансов и разработки программного обеспечения, мы показываем, как совместная работа человека и ИИ может справляться со сложными задачами лучше, чем ИИ, работающий в одиночку. Мы также обсуждаем вызовы, связанные с созданием таких совместных систем, и предлагаем практические решения. В статье утверждается, что прогресс в области ИИ не должен измеряться степенью независимости систем, а тем, насколько эффективно они могут взаимодействовать с человеком. Наиболее перспективное будущее ИИ заключается не в системах, которые берут на себя человеческие роли, а в тех, которые усиливают человеческие возможности через значимое партнерство.

English

Recent improvements in large language models (LLMs) have led many researchers to focus on building fully autonomous AI agents. This position paper questions whether this approach is the right path forward, as these autonomous systems still have problems with reliability, transparency, and understanding the actual requirements of human. We suggest a different approach: LLM-based Human-Agent Systems (LLM-HAS), where AI works with humans rather than replacing them. By keeping human involved to provide guidance, answer questions, and maintain control, these systems can be more trustworthy and adaptable. Looking at examples from healthcare, finance, and software development, we show how human-AI teamwork can handle complex tasks better than AI working alone. We also discuss the challenges of building these collaborative systems and offer practical solutions. This paper argues that progress in AI should not be measured by how independent systems become, but by how well they can work with humans. The most promising future for AI is not in systems that take over human roles, but in those that enhance human capabilities through meaningful partnership.