対話型放射線レポート作成のための離散拡散言語モデル

要旨

拡散言語モデルは、トークンを左から右へ生成する代わりに、トークンキャンバスを双方向にノイズ除去することでテキストを生成し、自己回帰（AR）生成と競合するようになった。しかし、医療用基盤モデルはほぼすべてが自己回帰型のままである。我々は、混合エキスパート拡散言語モデルであるDiffusionGemma-26Bを適用し、同一のLoRA設定のもと、医療用視覚質問応答データセットにおいて、同サイズのARモデルであるGemma-4-26Bと比較評価を行った。評価は冗長性に頑健なLLM判定器を用いてスコア化した。拡散モデルはすべてのデータセットでARと同等かそれ以上の性能を示し、微調整モデル（有効パラメータ3.8B）は最先端の視覚言語モデルと競合した。また、その復号化速度は3.5～4.4倍高速であった。この性能の同等性に加え、拡散モデルはARにはないドラフト作成能力、すなわち任意順序でのインフィルを提供する。キャンバスが双方向にノイズ除去されるため、放射線科医はレポートの断片を修正し、その間のテキストをモデルに埋めさせることができる。この操作は拡散に固有であり、自己回帰では本質的に不得意である。これは、臨床医や施設間でしばしば簡潔であったり一貫性に欠ける実際のレポートに適している。

English

Diffusion language models, which generate text by denoising a token canvas bidirectionally instead of emitting tokens left to right, have become competitive with autoregressive (AR) generation. Medical foundation models, however, remain almost entirely autoregressive. We adapt a mixture-of-experts diffusion language model, DiffusionGemma-26B, and benchmark it against its same-size AR sibling Gemma-4-26B under an identical LoRA recipe on medical visual question answering datasets, scored by a verbosity-robust LLM judge. Diffusion matches or exceeds AR on all of them, and the finetuned model (3.8B active) is competitive with frontier vision-language models; its decoding is also 3.5-4.4x faster. Beyond this parity, the diffusion model offers a drafting capability AR lacks: any-order infill. Because the canvas is denoised bidirectionally, a radiologist can fix report fragments and have the model fill the text between them, an operation inherent to diffusion but not to autoregression, which is subpar at it. This suits real reports, which are often terse or inconsistent across clinicians and institutions.