dVoting：dLLMのための高速投票

要旨

拡散型大規模言語モデル（dLLM）は、自己回帰モデリングを超える新たなパラダイムを代表し、競争力のある性能を提供するとともに、柔軟なデコードプロセスを自然に実現する。特にdLLMは任意の位置のトークンを並列生成可能であり、従来自己回帰モデリングでは非効率性により制約されていた並列推論時のスケーリングに大きな可能性を開く。本論文では、学習を必要とせず、許容範囲の計算コスト増加のみで推論能力を強化する高速投票技術「dVoting」を提案する。dVotingは、同一プロンプトに対する複数生成サンプルにおいて、トークン予測の大部分が一貫している一方、性能はサンプル間で変動する少数のトークンによって決定されるという観察に基づく。dLLMの任意位置生成機能を活用し、dVotingはサンプリングによる反復改良プロセスを実施する。具体的には、一貫性分析による不確実トークンの特定、投票を介した再生成、収束までの反復を実行する。大規模評価により、dVotingが様々なベンチマークで一貫して性能向上をもたらすことを実証した。GSM8Kでは6.22%-7.66%、MATH500では4.40%-7.20%、ARC-Cでは3.16%-14.84%、MMLUでは4.83%-5.74%の改善を達成した。実装コードはhttps://github.com/fscdc/dVoting で公開されている。

English

Diffusion Large Language Models (dLLMs) represent a new paradigm beyond autoregressive modeling, offering competitive performance while naturally enabling a flexible decoding process. Specifically, dLLMs can generate tokens at arbitrary positions in parallel, endowing them with significant potential for parallel test-time scaling, which was previously constrained by severe inefficiency in autoregressive modeling. In this work, we introduce dVoting, a fast voting technique that boosts reasoning capability without training, with only an acceptable extra computational overhead. dVoting is motivated by the observation that, across multiple samples for the same prompt, token predictions remain largely consistent, whereas performance is determined by a small subset of tokens exhibiting cross-sample variability. Leveraging the arbitrary-position generation capability of dLLMs, dVoting performs iterative refinement by sampling, identifying uncertain tokens via consistency analysis, regenerating them through voting, and repeating this process until convergence. Extensive evaluations demonstrate that dVoting consistently improves performance across various benchmarks. It achieves gains of 6.22%-7.66% on GSM8K, 4.40%-7.20% on MATH500, 3.16%-14.84% on ARC-C, and 4.83%-5.74% on MMLU. Our code is available at https://github.com/fscdc/dVoting

dVoting：dLLMのための高速投票

dVoting: Fast Voting for dLLMs

要旨

Support