PolicyGuide: LLM 에이전트의 정책 준수를 위한 단일 행동 감시에서 전체 워크플로 안내로

초록

고객 서비스 LLM 에이전트는 사용자를 대신하여 행동할 때 조직 정책을 따라야 한다. 정책 준수 실패는 자격이 없는 변경을 승인하는 것과 같은 금지된 행동이나 식별 또는 확인과 같은 절차적 요구 사항을 누락하는 데서 발생한다. 런타임 안전장치는 위험한 행동에 개입할 수 있지만, 행동 단위 검사는 에이전트를 다단계 절차로 안내하지 않는다. 워크플로우를 따르는 시스템은 규정된 프로세스 실행을 지원하지만, 주로 에이전트 행동의 안전성 확보보다는 워크플로우 완료에 초점을 맞춘다. PolicyGuide는 대신 각 도메인 정책을 워크플로우 그래프로 컴파일하고 사용자 턴 경계에서 선제적 검증기를 호출한다. 유지된 그래프 상태에서 검증기는 미해결 요청을 조정하고, 정책 준수 경로를 따라 단계별 수정 조치를 반환한다. PolicyGuide는 τ^2-bench의 항공, 소매, 통신 도메인에서 GPT-5.4 에이전트와 검증기를 사용한 평가에서 평균 Pass^4를 0.42에서 0.62로 향상시켰으며, 가장 큰 향상은 워크플로우 구조가 가장 뚜렷한 통신 도메인(0.19에서 0.61)에서 나타났다. 동일한 워크플로우는 Claude Sonnet 4.6 및 Gemini 2.5 Pro 에이전트에도 적용된다. 보완 평가에서는 적대적 사용자 하에서 관찰된 가장 낮은 공격 성공률과 저자가 설계한 워크플로우 수준 검증에서 가장 높은 절차적 준수를 확인했다.

English

Customer-service LLM agents must follow organizational policy when acting on a user's behalf. Compliance failures arise from either forbidden actions, such as granting an ineligible change, or omitted procedural requirements, such as identification or confirmation. Runtime safeguards can intervene on risky actions, but action-local checks do not guide an agent through a multi-step procedure. Workflow-following systems support prescribed process execution, but primarily target workflow completion rather than safeguarding agent behavior. PolicyGuide instead compiles each domain policy into a workflow graph and invokes a proactive verifier at user-turn boundaries. From persisted graph state, the verifier reconciles open requests and returns step-specific remediation along a policy-compliant path. Across the τ^2-bench airline, retail, and telecom domains with a GPT-5.4 agent and verifier, PolicyGuide raises mean Pass^4 from 0.42 to 0.62, with the largest gain on telecom (0.19 to 0.61), the most workflow-structured domain. The same workflows transfer to Claude Sonnet 4.6 and Gemini 2.5 Pro agents. Complementary evaluations find the lowest observed attack-success rate under adversarial users and the strongest procedural compliance in an author-designed workflow-level validation.