"반드시(Must)"가 "어쩌면(Maybe)"이 될 때: LLM 에이전트 워크플로우에서의 제약 완화

초록

대규모 언어 모델(LLM) 에이전트는 다중 역할 및 다중 단계 워크플로를 통해 복잡한 작업을 조정한다. 업스트림 상태는 요약, 계획, 티켓, 메모리, 인계 노트와 같은 중간 언어 산출물로 반복적으로 변환되며, 다운스트림 구성 요소는 이로부터 작동한다. 행동을 제약하는 상태의 경우 주제 유지(topical retention)는 충분하지 않다. 즉, 산출물이 해결되지 않은 조건을 언급하면서도, 그것을 실행 전에 반드시 해결해야 하는 요구사항에서 단지 다음 행동에 정보를 제공할 뿐인 정보로 변경할 수 있기 때문이다. 본 연구는 이러한 행동 결속적 역할을 운영 상태 보존(operational state preservation)으로 연구한다. 안전 차단기(safety blocker)는 각 소스 상태가 명시적 전제 조건, 권한, 대체 수단(fallback), 실행 결과를 갖기 때문에 통제된 사례를 제공한다. 본 연구는 정확한 업스트림 식별을 조건으로 하고, 인계 변환을 달리하며, 결과 산출물에 제한된 실행기를 평가한다. 1,296개의 통제된 합성 에피소드에서 직접 인계 통제군은 모든 차단기를 보존한 반면, 압축, 계획 동화, 수렴, 소유권 이연, 선례 대체는 결속 상태를 반복적으로 주의 사항이나 비구속적 고려 사항으로 전환시켰다. 일반적인 인계 압축은 100.0%의 비활성화와 54.2%의 금지된 행동을 초래했다. 네 가지 상태 필드를 모두 복원하면 보존율이 100.0%로 상승하고 금지된 행동이 0.0%로 감소했다. 고정 산출물 중재는 보존과 억제(containment)를 추가로 분리한다. 즉, 다운스트림 검증은 금지된 행동을 제거하지만 산출물 비활성화는 95.3%로 유지된다. 이러한 결과는 정보 추출과 행동 사이의 상태 전송 실패를 식별한다. 인계 변환은 상태 내용을 유지하면서도 다운스트림 행동에 대한 제약을 약화시킬 수 있다. 의미적 가용성은 운영적 보존을 보장하지 않는다.

English

Large language model (LLM) agents coordinate complex tasks through multi-role and multi-stage workflows. Upstream state is repeatedly transformed into intermediate language artifacts, such as summaries, plans, tickets, memories, and handoff notes, from which downstream components act. For action-constraining state, topical retention is insufficient: an artifact may mention an unresolved condition while changing it from a requirement that must be resolved before execution into information that may merely inform the next action. We study this action-binding role as operational state preservation. Safety blockers provide a controlled instance because each source state has an explicit prerequisite, authority, fallback, and execution consequence. We condition on correct upstream identification, vary the handoff transformation, and evaluate an executor restricted to the resulting artifact. Across 1,296 controlled synthetic episodes, direct-handoff controls preserve every blocker, whereas compression, plan assimilation, convergence, ownership deferral, and precedent substitution repeatedly turn binding state into caveats or non-binding considerations. Normal handoff compression produces 100.0% deactivation and 54.2% forbidden action. Restoring all four state fields raises preservation to 100.0% and reduces forbidden action to 0.0%. Fixed-artifact interventions further separate preservation from containment: downstream verification eliminates forbidden action while artifact deactivation remains 95.3%. These results identify a state-transmission failure between information extraction and action. Handoff transformations can retain state content while weakening its constraints on downstream action. Semantic availability does not guarantee operational preservation.