Diskrete Diffusions-Sprachmodelle für die interaktive Erstellung radiologischer Berichte

Zusammenfassung

Diffusions-Sprachmodelle, die Text durch bidirektionales Entrauschen eines Token-Rasters und nicht durch links-nach-rechts-Emission von Token erzeugen, sind inzwischen mit autoregressiver (AR) Generierung konkurrenzfähig. Medizinische Grundlagenmodelle bleiben jedoch fast vollständig autoregressiv. Wir passen ein Diffusions-Sprachmodell auf Basis eines Experten-Mischungsmodells, DiffusionGemma-26B, an und vergleichen es unter identischem LoRA-Verfahren mit seinem gleich großen AR-Pendant Gemma-4-26B anhand medizinischer Datensätze zur visuellen Beantwortung von Fragen, bewertet durch einen auf Robustheit gegenüber Ausführlichkeit ausgerichteten LLM-Bewerter. Diffusion erreicht auf allen Datensätzen mindestens das Niveau von AR, übertrifft es teils, und das feinabgestimmte Modell (3,8 Mrd. aktive Parameter) ist mit führenden Vision-Language-Modellen konkurrenzfähig; seine Dekodierung ist zudem 3,5- bis 4,4-mal schneller. Über diese Gleichwertigkeit hinaus bietet das Diffusionsmodell eine Entwurfsfähigkeit, die AR fehlt: das beliebige Auffüllen von Lücken. Da die Leinwand bidirektional entrauscht wird, kann ein Radiologe Berichtsfragmente fixieren und das Modell den Text dazwischen ergänzen lassen – eine Operation, die für Diffusion inhärent ist, während AR darunter leidet. Dies eignet sich für reale Berichte, die über Kliniken und Institutionen hinweg oft knapp oder inkonsistent sind.

English

Diffusion language models, which generate text by denoising a token canvas bidirectionally instead of emitting tokens left to right, have become competitive with autoregressive (AR) generation. Medical foundation models, however, remain almost entirely autoregressive. We adapt a mixture-of-experts diffusion language model, DiffusionGemma-26B, and benchmark it against its same-size AR sibling Gemma-4-26B under an identical LoRA recipe on medical visual question answering datasets, scored by a verbosity-robust LLM judge. Diffusion matches or exceeds AR on all of them, and the finetuned model (3.8B active) is competitive with frontier vision-language models; its decoding is also 3.5-4.4x faster. Beyond this parity, the diffusion model offers a drafting capability AR lacks: any-order infill. Because the canvas is denoised bidirectionally, a radiologist can fix report fragments and have the model fill the text between them, an operation inherent to diffusion but not to autoregression, which is subpar at it. This suits real reports, which are often terse or inconsistent across clinicians and institutions.