앎과 이해는 다르다: 생성적 주도성의 인식론적·행동적 통찰을 통한 재정립

Knowing Isn't Understanding: Re-grounding Generative Proactivity with Epistemic and Behavioral Insight

February 16, 2026

저자: Kirandeep Kaur, Xingda Lyu, Chirag Shah

cs.AI

초록

생성형 AI 에이전트는 명시적 질의를 해결하는 것을 이해와 동일시하며, 이는 상호작용을 사용자가 명시적으로 표현할 수 있는 범위로 한정하는 가정입니다. 이러한 가정은 사용자 스스로 무엇이 부족한지, 위험한지, 고려할 가치가 있는지 인지하지 못할 때 무너집니다. 이러한 조건에서 주도적 행동은 단순한 효율성 향상이 아니라 인식론적 필수요소입니다. 우리는 이러한 조건을 인식론적 불완전성이라 부릅니다. 즉, 효과적인 협력을 위해 '알지 못하는 미지의 영역'을 다루어야만 진전이 가능한 상태를 말합니다. 기존의 주도적 접근법은 여전히 제한적으로 예측에 그치며, 과거 행동을 외삽하고 목표가 이미 명확히 정의되었다고 가정함으로써 사용자에게 의미 있는 지원을 제공하지 못하고 있습니다. 그러나 사용자의 현재 인식 범위를 넘어선 가능성을 제시하는 것이 본질적으로 유익한 것은 아닙니다. 제약 없는 주도적 개입은 주의를 왜곡하거나 사용자를 압도하거나 해를 끼칠 수 있습니다. 따라서 주도적 에이전트는 행동적 기반, 즉 에이전트가 언제, 어떻게, 어느 정도 개입해야 하는지에 대한 원칙적 제약이 필요합니다. 우리는 생성적 주도성이 인식론적 및 행동적 측면 모두에 기반을 두어야 한다는 입장을 제안합니다. 무지의 철학과 주도적 행동 연구를 바탕으로, 우리는 이러한 이론들이 책임감 있게 협력하고 의미 있는 파트너십을 조성할 수 있는 에이전트 설계에 중요한 지침을 제공한다고 주장합니다.

English

Generative AI agents equate understanding with resolving explicit queries, an assumption that confines interaction to what users can articulate. This assumption breaks down when users themselves lack awareness of what is missing, risky, or worth considering. In such conditions, proactivity is not merely an efficiency enhancement, but an epistemic necessity. We refer to this condition as epistemic incompleteness: where progress depends on engaging with unknown unknowns for effective partnership. Existing approaches to proactivity remain narrowly anticipatory, extrapolating from past behavior and presuming that goals are already well defined, thereby failing to support users meaningfully. However, surfacing possibilities beyond a user's current awareness is not inherently beneficial. Unconstrained proactive interventions can misdirect attention, overwhelm users, or introduce harm. Proactive agents, therefore, require behavioral grounding: principled constraints on when, how, and to what extent an agent should intervene. We advance the position that generative proactivity must be grounded both epistemically and behaviorally. Drawing on the philosophy of ignorance and research on proactive behavior, we argue that these theories offer critical guidance for designing agents that can engage responsibly and foster meaningful partnerships.