Het blootleggen van entiteitsidentiteitsverwarring in multimodale kennisbewerking

Samenvatting

Multimodale kennisbewerking (MKE) beoogt de interne kennis van grote visie-taalmodellen na implementatie te corrigeren, maar de gedragspatronen van bewerkte modellen blijven onderbelicht. In dit artikel identificeren we een systemische faalmodus in bewerkte modellen, genaamd Entity Identity Confusion (EIC): bewerkte modellen vertonen een absurd gedrag waarbij tekstuele queries over de identiteit van de oorspronkelijke entiteit onverwacht informatie over de nieuwe entiteit retourneren. Om EIC rigoureus te onderzoeken, construeren we EC-Bench, een diagnostische benchmark die direct onderzoekt hoe afbeelding-entiteit-bindingen verschuiven voor en na bewerking. Onze analyse onthult dat EIC voortkomt uit het feit dat bestaande methoden er niet in slagen onderscheid te maken tussen Afbeelding-Entiteit (A-E)-binding en Entiteit-Entiteit (E-E)-relationele kennis in het model, waardoor modellen E-E-associaties overmatig gaan gebruiken als een snelkoppeling: de afbeelding wordt nog steeds waargenomen als de oorspronkelijke entiteit, terwijl de naam van de nieuwe entiteit slechts dient als een onecht identiteitslabel. We verkennen verder mogelijke mitigatiestrategieën en tonen aan dat het beperken van bewerkingen tot de A-E-verwerkingsfase van het model ertoe leidt dat bewerkingen getrouwer aan de A-E-binding werken, waardoor EIC aanzienlijk wordt verminderd. Op basis van deze bevindingen bespreken we principiële desiderata voor getrouwe MKE en bieden we methodologische richtlijnen voor toekomstig onderzoek.

English

Multimodal knowledge editing (MKE) aims to correct the internal knowledge of large vision-language models after deployment, yet the behavioral patterns of post-edit models remain underexplored. In this paper, we identify a systemic failure mode in edited models, termed Entity Identity Confusion (EIC): edited models exhibit an absurd behavior where text-only queries about the original entity's identity unexpectedly return information about the new entity. To rigorously investigate EIC, we construct EC-Bench, a diagnostic benchmark that directly probes how image-entity bindings shift before and after editing. Our analysis reveals that EIC stems from existing methods failing to distinguish between Image-Entity (I-E) binding and Entity-Entity (E-E) relational knowledge in the model, causing models to overfit E-E associations as a shortcut: the image is still perceived as the original entity, with the new entity's name serving only as a spurious identity label. We further explore potential mitigation strategies, showing that constraining edits to the model's I-E processing stage encourages edits to act more faithfully on I-E binding, thereby substantially reducing EIC. Based on these findings, we discuss principled desiderata for faithful MKE and provide methodological guidance for future research.