"나는 미시적 결정을 내리지 않았다": 협업에서 목표 수준의 AI 기여 측정, 유도 및 노출

초록

대규모 언어 모델(LLMs)이 사용자의 목표 형성, 개선 및 확장 방식을 점점 더 주도함에 따라, 인간-AI 협업에서의 기여도 귀속(attribution)은 사용자가 자신의 의존도를 조정하고 평가자가 AI 지원 작업을 평가하는 데 있어 중요해지고 있다. 그러나 기존 방법들은 최종 산출물에 초점을 맞출 뿐, 목표 자체가 공동으로 형성되는 과정을 간과한다. 이에 우리는 명시적 목표를 검증 가능한 요구사항으로 분해하고, 대화 턴(dialogue turn)에 걸쳐 직접 기여와 간접 영향을 모두 추적하는 목표 수준 기여도 분석 프레임워크인 CoTrace를 제안한다. CoTrace를 실제 협업 로그 638건에 적용한 결과, 모델은 목표 형성 기여도의 11~26%만을 차지하지만, 하위 수준의 구체적 요구사항을 도입하는 데는 훨씬 큰 기여를 하며 다양한 유형의 간접 기여를 하는 것으로 나타났다. 통제된 시뮬레이션을 통해 상호작용 설계 선택이 모델의 목표 형성 행동에 유의미한 영향을 미친다는 점을 보였다. 사용자 연구에서 참가자들에게 목표 수준 분석 결과를 제시했을 때, 5점 척도에서 인지된 기여도가 거의 2점 차이로 변화했으며, 이는 사용자가 자신의 AI 지원 작업을 이해하는 방식에 체계적 보정 오류(miscalibration)가 있음을 드러낸다.

English

As large language models (LLMs) increasingly shape how users form, refine, and extend their goals, attributing contributions in human-AI collaboration becomes critical for users calibrating their own reliance and for evaluators assessing AI-assisted work. Yet existing methods focus on final artifacts, missing the process through which goals themselves are jointly shaped. We introduce a goal-level attribution framework, CoTrace, that decomposes explicit goals into verifiable requirements and traces both direct contributions and indirect influences across dialogue turns. Applying CoTrace to 638 real-world collaboration logs, we find that while models account for only 11-26% of goal-shaping contribution, they contribute substantially more on introducing lower-level concrete requirements, and make various kinds of indirect contributions. Through controlled simulations, we show that interaction design choices significantly affect model goal-shaping behavior. In a user study, exposing participants to goal-level analyses shifts their perceived contributions by nearly 2 points on a 5-point scale, revealing systematic miscalibration in how users understand their own AI-assisted work.