PaDoc: 문서 파싱을 위한 레이아웃 기반 병렬 디코딩

초록

종단 간(end-to-end) 문서 파서는 통합 인터페이스를 제공하지만 페이지 레이아웃과 영역별 내용을 하나의 자기회귀(autoregressive) 시퀀스로 직렬화한다. 이러한 공식화는 독립적인 영역들을 전체 콘텐츠 길이에 비례하여 길어지는 디코딩 경로에 강제한다. 반면, 크롭 기반 2단계 파서는 반복적인 시각적 프리필(prefill)과 분할된 페이지 컨텍스트를 대가로 영역 수준 병렬성을 노출한다. 의존성을 제거하면서 전체 페이지 컨텍스트를 유지하기 위해, 우리는 예측된 레이아웃을 공유 페이지 표현 위의 분기 구조로 취급하는 레이아웃 기반 파서 PaDoc을 제안한다. 영역 충분성 가정 하에, 우리는 레이아웃 스트림과 영역별 콘텐츠 분기가 동시에 진행되는 접두사 조건부 인수분해(prefix-conditioned factorization)를 유도하며, 디코딩 깊이를 가장 긴 레이아웃-콘텐츠 경로로 줄인다. 우리는 이 인수분해를 단일 MLLM(멀티모달 대규모 언어 모델) 내에서 구현한다. 패킹된 가변 길이 조상 어텐션(packed variable-length ancestor attention)은 표준 다음 토큰 학습 하에서 가시성을 보존하고, 마스킹된 병렬 디코딩은 평가된 vLLM 백엔드가 캐시 상주 공유 접두사 재사용을 통해 동시 요청으로 처리하는 분기를 생성한다. OmniDocBench Full에서 PaDoc은 Overall 레이아웃 F1 91.1을 달성하고, 종단 간 파서 중 최상위권 Overall 점수 94.24와 함께 최고의 Text Edit(0.038) 및 Formula CDM(95.59)을 기록한다. 384페이지 하위 집합과 A800 GPU 1개 환경에서, PaDoc은 5가지 동시성 수준에서 가장 빠른 종단 간 파서로, 동일 백본을 사용하는 순차 SFT 베이스라인 대비 유효 페이지 처리량(valid-page throughput)을 67.4~118% 개선하고 P95 지연 시간을 39.2~54.9% 감소시킨다. 코드는 https://github.com/Longin-Yu/Padoc에서 확인할 수 있다.

English

End-to-end document parsers provide a unified interface, but serialize page layouts and regional contents into one autoregressive sequence. This formulation forces independent regions onto a decoding path whose length grows with the total content, whereas crop-based two-stage parsers expose region-level parallelism at the cost of repeated visual prefills and fragmented page context. To retain full-page context while removing dependencies, we propose PaDoc, a layout-grounded parser that treats the predicted layout as a branching structure over a shared page representation. Under a region-sufficiency assumption, we derive a prefix-conditioned factorization in which the layout stream and regional content branches advance concurrently, reducing the decoding depth to the longest layout-content path. We realize this factorization within a single MLLM: packed variable-length ancestor attention preserves the visibility under standard next-token training, while masked parallel decoding creates branches that the evaluated vLLM backend serves as concurrent requests with cache-resident shared-prefix reuse. On OmniDocBench Full, PaDoc attains an Overall layout F1 of 91.1 and, among end-to-end parsers, a top-tier Overall score of 94.24 together with the best Text Edit (0.038) and Formula CDM (95.59). On a 384-page subset and one A800 GPU, it is the fastest end-to-end parser at five concurrency levels, improving valid-page throughput by 67.4-118% and reducing P95 latency by 39.2-54.9% relative to a same-backbone Sequential SFT baseline. Code is available at https://github.com/Longin-Yu/Padoc