입장: 과학 연구팀 내 AI 에이전트는 인간-에이전트 시스템으로 연구되어야 한다

초록

대규모 언어 모델 기반 에이전트는 과학적 발견에 있어 협력자로서 점점 더 많이 배치되고 있지만, 현재 대부분의 연구는 "AI 과학자"의 자율적 역량에 초점을 맞추고 있다. 우리는 이러한 접근이 과학적 팀워크의 사회적 측면을 간과한다고 주장하며, 단위 분석이 인간-에이전트 쌍(human-agent pair)인 인간-에이전트 시스템(HAS)으로서 AI 과학자를 연구하는 것이 충분히 탐구되지 않았고 과소평가되어 왔다고 본다. 우리는 문헌 및 실증 분석을 통해 이러한 주장을 입증하고, 인간-에이전트 역학을 고려하지 않고 과학 분야에 에이전트를 배치할 경우 과학적 탐구의 다양성 감소를 포함한 단기적 위험이 초래된다는 최근 사례와 연구를 조명한다. 실제 사례 연구 분석을 통해 과학자와 에이전트가 서로의 역량을 증강시킬 수 있음을 보여준다. 우리는 과학적 발견에 있어 인간-AI 시너지를 이해하고 촉진하기 위한 수학적 프레임워크를 개발하기 위해 HAS 관점을 채택하는 새로운 연구를 촉구한다.

English

Large language model-based agents are increasingly deployed as collaborators in scientific discovery yet most current work focuses on the autonomous capabilities of "AI Scientists". We argue that this overlooks the social aspects of scientific teamwork, and that studying AI Scientists as human-agent systems (HAS)--where the unit of analysis is the human-agent pair--is both underexplored and undervalued. We establish these points through literature and empirical analysis, and highlight recent incidences and studies which show that deploying agents in science without accounting for human-agent dynamics introduces near-term risks, including reduced diversity of scientific inquiry. Through analysis of real-world case studies, we show that scientists and agents can augment each other's capabilities. We call for new research that adopts the HAS lens to develop mathematical frameworks for understanding and fostering human-AI synergy in scientific discovery.