협력적 지능을 위한 요청: 왜 인간-에이전트 시스템이 AI 자율성에 앞서야 하는가

초록

최근 대형 언어 모델(LLM)의 발전으로 많은 연구자들이 완전히 자율적인 AI 에이전트 구축에 주목하고 있습니다. 본 포지션 논문은 이러한 접근 방식이 올바른 방향인지 의문을 제기합니다. 이러한 자율 시스템은 여전히 신뢰성, 투명성, 그리고 인간의 실제 요구 사항을 이해하는 데 문제를 안고 있기 때문입니다. 우리는 대안으로 LLM 기반 인간-에이전트 시스템(LLM-HAS)을 제안합니다. 이 시스템은 AI가 인간을 대체하는 것이 아니라 인간과 협력하는 방식입니다. 인간이 지침을 제공하고 질문에 답하며 통제를 유지함으로써, 이러한 시스템은 더 신뢰할 수 있고 적응력이 높아질 수 있습니다. 의료, 금융, 소프트웨어 개발 분야의 사례를 통해, 인간-AI 팀워크가 AI 단독으로 작업하는 것보다 복잡한 작업을 더 잘 처리할 수 있음을 보여줍니다. 또한 이러한 협업 시스템을 구축하는 데 따른 과제를 논의하고 실질적인 해결 방안을 제시합니다. 본 논문은 AI의 진보를 시스템의 독립성 정도가 아니라 인간과 얼마나 잘 협력할 수 있는지로 측정해야 한다고 주장합니다. AI의 가장 유망한 미래는 인간의 역할을 대체하는 시스템이 아니라, 의미 있는 협력을 통해 인간의 능력을 강화하는 시스템에 있습니다.

English

Recent improvements in large language models (LLMs) have led many researchers to focus on building fully autonomous AI agents. This position paper questions whether this approach is the right path forward, as these autonomous systems still have problems with reliability, transparency, and understanding the actual requirements of human. We suggest a different approach: LLM-based Human-Agent Systems (LLM-HAS), where AI works with humans rather than replacing them. By keeping human involved to provide guidance, answer questions, and maintain control, these systems can be more trustworthy and adaptable. Looking at examples from healthcare, finance, and software development, we show how human-AI teamwork can handle complex tasks better than AI working alone. We also discuss the challenges of building these collaborative systems and offer practical solutions. This paper argues that progress in AI should not be measured by how independent systems become, but by how well they can work with humans. The most promising future for AI is not in systems that take over human roles, but in those that enhance human capabilities through meaningful partnership.

협력적 지능을 위한 요청: 왜 인간-에이전트 시스템이 AI 자율성에 앞서야 하는가

A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy

초록

Support