HPD-Parsing: 階層的並列文書解析

要旨

効率的なチームワークは通常、グローバルな調整と並列実行を組み合わせるが、この原則は統合型Vision-Language Model（VLM）ベースの文書パーサーにはまだ完全には反映されていない。既存の統合型パーサーはページ全体を一括で処理するが、その出力はトークン単位の単一の自己回帰軌道を通じて生成され、文書の長さに応じて拡大する逐次的なボトルネックを生み出している。このようなページ全体の逐次生成は、文書解析の重要な特性を見落としている。すなわち、レイアウトはグローバルに分析されなければならない一方、ブロックコンテンツは並列に解析できる。この観察に基づき、我々はHPD-Parsingを導入する。これは、ページ全体の自己回帰生成を階層的並列デコーディングパラダイムに置き換えるものである。メインレイアウトブランチが文書全体の構造を整理し、ブロックレベルのコンテンツデコーディングを動的に並行ブランチに割り当てる一方、プログレッシブマルチトークン予測（P-MTP）が各ブランチ内のデコーディングステップをさらに削減する。公開ベンチマークでの実験により、HPD-Parsingは毎秒4,752トークンを達成し、既存の最速文書解析モデルの2.62倍、バニラ自己回帰ベースラインの3.06倍のスループットを実現しつつ、競争力のある解析精度を維持していることが示された。これらの結果は、階層的並列デコーディングがページ全体の自己回帰生成に対する効果的な代替手段であることを確立し、効率的な統合文書解析の新たな方向性を切り開くものである。

English

Efficient teamwork typically combines global coordination with parallel execution, a principle not yet fully reflected in unified Vision-Language Model (VLM)-based document parsers. Existing unified parsers process an entire page jointly but generate its output through a single token-by-token autoregressive trajectory, creating a sequential bottleneck that grows with document length. Such full-page sequential generation overlooks a key property of document parsing: layout must be analyzed globally, whereas block content can be parsed in parallel. Based on this observation, we introduce HPD-Parsing, which replaces full-page autoregressive generation with a Hierarchical Parallel Decoding paradigm. A main layout branch organizes the overall document structure and dynamically assigns block-level content decoding to concurrent branches, while progressive multi-token prediction (P-MTP) further reduces the decoding steps within each branch. Experiments on public benchmarks show that HPD-Parsing achieves 4,752 tokens per second, delivering 2.62times the throughput of the fastest existing document parsing model and 3.06times that of the vanilla autoregressive baseline, while maintaining competitive parsing accuracy. These results establish hierarchical parallel decoding as an effective alternative to full-page autoregressive generation, opening a new direction for efficient unified document parsing.