제어-데이터 흐름 분리: 멀티에이전트 LLM에서의 안정적 프롬프트 최적화

초록

프롬프트 최적화는 멀티에이전트 LLM 시스템을 개선할 수 있지만, 최적화되는 프롬프트는 종종 두 가지 상호 얽힌 역할을 수행한다: 작업 관련 콘텐츠를 생성하는 역할과, 기본 코드가 의존하는 메시지 라우팅, 출력 형식, 종료 신호와 같은 실행에 중요한 프로토콜을 지정하는 역할이 그것이다. 그 결과, 콘텐츠 생성을 개선하기 위한 프롬프트 수정이 의도치 않게 프로토콜을 손상시켜 전체 에이전트 파이프라인을 실패하게 만들 수 있다. 본 연구의 핵심 관찰은 이 두 역할이 서로 다른 표현 방식을 가진다는 점이다: 실행 프로토콜은 일반적으로 구조화되어 있는 반면, 작업 관련 콘텐츠는 보통 비구조화된 언어로 표현된다. 이를 바탕으로 본 연구는 제어-데이터 흐름 분리(control-data flow separation)를 제안한다. 이 방식에서는 실행에 중요한 제어가 타입이 지정되고 검증된 프로그램 객체로 표현되는 반면, 작업 관련 언어는 에이전트 간 통신을 위한 최적화 가능한 데이터 흐름으로 유지된다. 이러한 설계는 옵티마이저가 라우팅이나 형식 인터페이스를 프롬프트 드리프트에 노출시키지 않으면서 멀티에이전트 행동을 개선할 수 있게 한다. 합성 추론, 협업 리뷰 생성, 보험 등급 워크플로우 전반에 걸쳐, 본 연구의 프레임워크는 작업 성능을 지속적으로 개선하면서 궁극적으로 100%의 프로토콜 유효성을 경험적으로 달성한다.

English

Prompt optimization can improve multi-agent LLM systems, but the prompts being optimized often serve two entangled roles: generating task-relevant content and specifying execution-critical protocols, such as message routing, output formatting, and termination signals, on which the underlying code relies. As a result, a prompt edit intended to improve content generation can inadvertently corrupt the protocol and cause the entire agent pipeline to fail. Our key observation is that these two roles have different representations: execution protocols are typically structured, while task-relevant content is usually expressed in unstructured language. Based on this, we propose control-data flow separation, where execution-critical control is represented as typed, validated program objects, while task-relevant language remains the optimizable data flow for agent communication. This design allows optimizers to improve multi-agent behavior without exposing the routing or formatting interface to prompt drift. Across synthetic reasoning, collaborative review generation, and insurance rating workflows, our framework empirically achieves 100% eventual protocol validity while consistently improving task performance.