テキスト編集は視覚生成に一般化できるか？UMMsにおけるクロスモーダル知識編集のベンチマーキング

要旨

統一マルチモーダルモデル（UMMs）は、汎用マルチモーダルインテリジェンスの有望なパラダイムとして登場している。実世界のアプリケーションに展開されるにつれて、内部知識を効果的に更新することが重要になる。知識編集はテキスト専用モデルでは成熟しているが、テキスト出力を正常に修正する編集がUMMsの画像生成にも転移するかは不明である。この問題を研究するために、我々はUMMsにおけるクロスモダリティ知識編集の最初のベンチマークであるUniKEを紹介する。これは属性編集と関係編集にわたる2,971件の編集対象を含む。VQAベースの視覚検証を用いて、我々は顕著なモダリティギャップを明らかにする：テキスト側の有効性は約92%に達する一方、直接画像生成における最高の全体的VQA精度はわずか18.5%である。我々はさらに、生成前に編集された知識を明示的に活性化し、評価されたすべてのモデル・エディタペアにおいて全体的VQA精度を向上させる（最大18.6ポイントの向上）推論拡張パラメータ編集（Reasoning-augmented Parameter Editing）を提案する。メカニズム解析は、このギャップが編集されたテキスト表現と視覚生成の条件付け経路との部分的な整合性に関連していることを示しており、テキスト出力には十分な編集でも画像合成を導くには弱すぎるか不整合のままである可能性がある。これらの発見は、テキスト知識編集が信頼できるクロスモダリティ転移を保証せず、モダリティを考慮した編集方法を動機付けることを示している。我々のコードとデータはhttps://github.com/gxx27/UniKEで入手可能である。

English

Unified multimodal models (UMMs) have emerged as a promising paradigm for general-purpose multimodal intelligence. As they are deployed in real-world applications, effectively updating internal knowledge becomes critical. While knowledge editing has matured for text-only models, it remains unclear whether edits that successfully modify textual outputs also transfer to image generation in UMMs. To study this question, we introduce UniKE, the first benchmark for cross-modality knowledge editing in UMMs, comprising 2,971 edit subjects spanning attribute and relation edits. Using VQA-based visual verification, we reveal a striking modality gap: text-side efficacy can reach approximately 92%, whereas the best overall VQA accuracy under direct image generation is only 18.5%. We further propose Reasoning-augmented Parameter Editing, which explicitly activates edited knowledge before generation and improves overall VQA accuracy for all evaluated model-editor pairs, with gains up to 18.6 percentage points. Mechanistic analysis shows that this gap is associated with partial alignment between edited textual representations and the conditioning pathways for visual generation, where edits sufficient for text outputs may remain too weak or misaligned to steer image synthesis. These findings show that textual knowledge edits do not guarantee reliable cross-modality transfer and motivate modality-aware editing methods. Our code and data are available at https://github.com/gxx27/UniKE.