PARSER: 장문맥 LLM 에이전트를 위한 병렬 읽기와 심층 추론

초록

순차 메모리 에이전트는 문서를 청크 단위로 차례로 읽으면서 간결한 메모리 상태를 유지함으로써 긴 문서를 처리하며, 이는 문서 순회를 추론 깊이에 결합한다. 이러한 결합은 증거 배치에 대한 민감도를 초래하고 추론 지연 시간을 문서 길이에 선형으로 연결한다. 우리는 읽기와 추론을 분리하는 PARSER를 제안한다. 각각 단일 청크에 결속된 경량 서브에이전트 뱅크가 전체 문서를 병렬로 읽는 동안, 리드 에이전트는 반복적인 스캐터-개더 라운드를 통해 심층적으로 추론한다. 각 라운드에서 리드 에이전트는 모든 서브에이전트에 쿼리를 브로드캐스트하고, 반환된 증거를 집계하며, 지금까지 발견된 내용에 조건화된 더 깊은 후속 쿼리를 구성한다. 이렇게 분리된 설계는 모든 학습 가능한 행동을 리드 에이전트에 집중시키며, 리드 에이전트는 강화 학습으로 최적화되는 반면 서브에이전트는 고정된 기성 모델로 유지된다. 7K에서 896K 토큰 범위의 컨텍스트를 가진 멀티홉 QA에서, 4B 백본을 사용한 PARSER는 가장 강력한 순차 메모리 기준선을 평균 5.7점, 896K 토큰에서 12.0점 능가한다. 9B 백본으로 확장하면 PARSER는 DeepSeek-V4-Pro를 6.3점 능가한다. 통제 실험은 PARSER가 증거 위치, 순서, 거리의 교란, 즉 순차 방법에서 큰 정확도 변동을 일으키는 조건에 강건함을 확인시켜 주며, 추론 지연 시간을 최대 11배까지 감소시킨다.

English

Sequential memory agents process long documents by reading chunks one after another while maintaining a compact memory state, coupling document traversal to reasoning depth. This coupling introduces sensitivity to evidence placement and ties inference latency linearly to document length. We introduce PARSER, which decouples reading from reasoning. A bank of lightweight subagents each bound to a single chunk read the entire document in parallel, while a lead agent reasons in depth through iterative scatter--gather rounds: at each round it broadcasts a query to all subagents, aggregates the returned evidence, and formulates a deeper follow-up query conditioned on what has been found so far. This decoupled design concentrates all learnable behavior in the lead agent, which is optimized with reinforcement learning, while the subagents remain frozen off-the-shelf models. On multi-hop QA with contexts ranging from 7K to 896K tokens, PARSER with a 4B backbone outperforms the strongest sequential memory baseline by 5.7 points on average and by 12.0 points at 896K tokens. Scaling to a 9B backbone, PARSER surpasses DeepSeek-V4-Pro by 6.3 points. Controlled experiments confirm that PARSER is robust to perturbations in evidence position, order, and distance, conditions that cause large accuracy swings in sequential methods, while reducing inference latency by up to 11x.