As edições de texto se generalizam para a geração visual? Avaliação Comparativa de Edição de Conhecimento Cross-Modal em UMMs

Resumo

Modelos multimodais unificados (MMUs) emergiram como um paradigma promissor para inteligência multimodal de uso geral. À medida que são implantados em aplicações do mundo real, a atualização eficaz do conhecimento interno torna-se crítica. Embora a edição de conhecimento já esteja madura para modelos exclusivamente textuais, ainda não está claro se edições que modificam com sucesso saídas textuais também transferem para a geração de imagens em MMUs. Para estudar essa questão, apresentamos UniKE, o primeiro benchmark para edição de conhecimento entre modalidades em MMUs, compreendendo 2.971 tópicos de edição abrangendo edições de atributos e relações. Usando verificação visual baseada em VQA, revelamos uma lacuna de modalidade impressionante: a eficácia do lado textual pode atingir aproximadamente 92%, enquanto a melhor precisão geral de VQA sob geração direta de imagem é de apenas 18,5%. Propomos ainda a Edição de Parâmetros Aumentada por Raciocínio, que ativa explicitamente o conhecimento editado antes da geração e melhora a precisão geral de VQA para todos os pares modelo-editor avaliados, com ganhos de até 18,6 pontos percentuais. A análise mecanicista mostra que essa lacuna está associada a um alinhamento parcial entre as representações textuais editadas e as vias de condicionamento para a geração visual, onde edições suficientes para saídas textuais podem permanecer muito fracas ou desalinhadas para orientar a síntese de imagens. Esses achados mostram que edições de conhecimento textual não garantem transferência confiável entre modalidades e motivam métodos de edição conscientes da modalidade. Nosso código e dados estão disponíveis em https://github.com/gxx27/UniKE.

English

Unified multimodal models (UMMs) have emerged as a promising paradigm for general-purpose multimodal intelligence. As they are deployed in real-world applications, effectively updating internal knowledge becomes critical. While knowledge editing has matured for text-only models, it remains unclear whether edits that successfully modify textual outputs also transfer to image generation in UMMs. To study this question, we introduce UniKE, the first benchmark for cross-modality knowledge editing in UMMs, comprising 2,971 edit subjects spanning attribute and relation edits. Using VQA-based visual verification, we reveal a striking modality gap: text-side efficacy can reach approximately 92%, whereas the best overall VQA accuracy under direct image generation is only 18.5%. We further propose Reasoning-augmented Parameter Editing, which explicitly activates edited knowledge before generation and improves overall VQA accuracy for all evaluated model-editor pairs, with gains up to 18.6 percentage points. Mechanistic analysis shows that this gap is associated with partial alignment between edited textual representations and the conditioning pathways for visual generation, where edits sufficient for text outputs may remain too weak or misaligned to steer image synthesis. These findings show that textual knowledge edits do not guarantee reliable cross-modality transfer and motivate modality-aware editing methods. Our code and data are available at https://github.com/gxx27/UniKE.