Modèles de langage à diffusion discrète pour la rédaction interactive de rapports radiologiques

Résumé

Les modèles de langage à diffusion, qui génèrent du texte en débruitant un canevas de tokens de manière bidirectionnelle plutôt qu'en émettant des tokens de gauche à droite, sont devenus compétitifs avec la génération autorégressive (AR). Cependant, les modèles fondamentaux médicaux restent presque exclusivement autorégressifs. Nous adaptons un modèle de langage à diffusion à mélange d'experts, DiffusionGemma-26B, et l'évaluons par rapport à son homologue AR de même taille, Gemma-4-26B, selon une recette LoRA identique sur des ensembles de données de réponse à des questions visuelles médicales, notés par un juge LLM robuste à la verbosité. La diffusion atteint ou dépasse l'AR sur tous ces ensembles, et le modèle affiné (3,8B actifs) est compétitif avec les modèles de vision-langage de pointe ; son décodage est également 3,5 à 4,4 fois plus rapide. Au-delà de cette parité, le modèle de diffusion offre une capacité de rédaction que l'AR ne possède pas : le remplissage dans n'importe quel ordre. Étant donné que le canevas est débruité de manière bidirectionnelle, un radiologue peut corriger des fragments de rapport et demander au modèle de remplir le texte entre eux, une opération inhérente à la diffusion mais pas à l'autorégression, qui est médiocre pour cela. Cela convient aux rapports réels, souvent laconiques ou incohérents selon les cliniciens et les institutions.

English

Diffusion language models, which generate text by denoising a token canvas bidirectionally instead of emitting tokens left to right, have become competitive with autoregressive (AR) generation. Medical foundation models, however, remain almost entirely autoregressive. We adapt a mixture-of-experts diffusion language model, DiffusionGemma-26B, and benchmark it against its same-size AR sibling Gemma-4-26B under an identical LoRA recipe on medical visual question answering datasets, scored by a verbosity-robust LLM judge. Diffusion matches or exceeds AR on all of them, and the finetuned model (3.8B active) is competitive with frontier vision-language models; its decoding is also 3.5-4.4x faster. Beyond this parity, the diffusion model offers a drafting capability AR lacks: any-order infill. Because the canvas is denoised bidirectionally, a radiologist can fix report fragments and have the model fill the text between them, an operation inherent to diffusion but not to autoregression, which is subpar at it. This suits real reports, which are often terse or inconsistent across clinicians and institutions.