Quando a Confiança Engana: Ancoragem de Sufixo e Modulação da Confiança por Proximidade de Âncora para Modelos de Linguagem por Difusão

Resumo

Modelos de linguagem difusos decodificam texto ao iterativamente remover o ruído de sequências de tokens mascarados, tornando a escolha de quais posições decodificar uma decisão central no momento da inferência. A maioria das estratégias de decodificação livres de treinamento utiliza a confiança do modelo para a seleção de posições, assumindo que posições de alta confiança estão prontas para serem decodificadas. Neste trabalho, revisitamos essa suposição ao estudar quando a confiança engana a decodificação totalmente não autorregressiva (totalmente não-AR). Tokens EOT podem receber alta confiança e causar geração incompleta; inserir uma âncora de sufixo pode mitigar esse problema, mas introduz excesso de confiança local próximo à âncora, fazendo com que tokens adjacentes à âncora sejam decodizados cedo demais. Para abordar essas questões, propomos a Modulação de Confiança com Âncora de Sufixo, um método simples e livre de treinamento que insere uma âncora de sufixo curta para incentivar a conclusão da resposta e modula a confiança perto da âncora de acordo com o progresso da decodificação. Isso preserva o benefício de conclusão da resposta proporcionado pela ancoragem de sufixo, ao mesmo tempo que reduz a decodificação prematura de tokens adjacentes à âncora. Em benchmarks de raciocínio apenas com texto, raciocínio visão-linguagem e geração de código, nosso método melhora consistentemente a decodificação totalmente não-AR baseada em confiança, supera a supressão explícita de EOT e preserva a vantagem de decodificação paralela da geração totalmente não-AR.

English

Diffusion language models decode text by iteratively denoising masked token sequences, making the choice of which positions to decode a central inference-time decision. Most training-free decoding strategies use model confidence for position selection, assuming that high-confidence positions are ready to be decoded. In this work, we revisit this assumption by studying when confidence misleads fully non-autoregressive (fully non-AR) decoding. EOT tokens can receive high confidence and cause incomplete generation; inserting a suffix anchor can mitigate this issue but introduces local overconfidence near the anchor, causing anchor-adjacent tokens to be decoded too early. To address these issues, we propose Suffix-Anchored Confidence Modulation, a simple training-free method that inserts a short suffix anchor to encourage response completion and modulates confidence near the anchor according to decoding progress. This preserves the response-completion benefit of suffix anchoring while reducing premature decoding of anchor-adjacent tokens. Across text-only reasoning, vision-language reasoning, and code-generation benchmarks, our method consistently improves confidence-based fully non-AR decoding, outperforms explicit EOT suppression, and preserves the parallel decoding advantage of fully non-AR generation.