지능형 AI 위임

초록

AI 에이전트는 점점 더 복잡한 작업을 해결할 수 있게 되었습니다. 더 야심찬 목표를 달성하기 위해서는 AI 에이전트가 문제를 의미 있게 관리 가능한 하위 구성 요소로 분해하고, 그 완수를 다른 AI 에이전트 및 인간에게 안전하게 위임할 수 있어야 합니다. 그러나 기존의 작업 분해 및 위임 방법은 단순한 경험적 규칙에 의존하며, 환경 변화에 동적으로 적응하고 예기치 않은 실패를 견고하게 처리할 수 없습니다. 본 논문에서는 지능형 AI 위임을 위한 적응형 프레임워크를 제안합니다. 이는 작업 할당을 포함하는 일련의 결정 과정으로, 권한, 책임, 의무의 이전과 역할 및 경계에 대한 명확한 규정, 의도 명확성, 그리고 두 당사자(또는 그 이상) 간 신뢰 구축 메커니즘을 통합합니다. 제안된 프레임워크는 복잡한 위임 네트워크 내에서 인간과 AI 위임자 및 수임자 모두에게 적용 가능하며, 부상하는 에이전트 기반 웹(agentic web)에서 프로토콜 개발에 기여하는 것을 목표로 합니다.

English

AI agents are able to tackle increasingly complex tasks. To achieve more ambitious goals, AI agents need to be able to meaningfully decompose problems into manageable sub-components, and safely delegate their completion across to other AI agents and humans alike. Yet, existing task decomposition and delegation methods rely on simple heuristics, and are not able to dynamically adapt to environmental changes and robustly handle unexpected failures. Here we propose an adaptive framework for intelligent AI delegation - a sequence of decisions involving task allocation, that also incorporates transfer of authority, responsibility, accountability, clear specifications regarding roles and boundaries, clarity of intent, and mechanisms for establishing trust between the two (or more) parties. The proposed framework is applicable to both human and AI delegators and delegatees in complex delegation networks, aiming to inform the development of protocols in the emerging agentic web.

지능형 AI 위임

Intelligent AI Delegation

초록

Support