CORG: Antwoorden genereren uit complexe, onderling verbonden contexten

CORG: Generating Answers from Complex, Interrelated Contexts

April 25, 2025

Auteurs: Hyunji Lee, Franck Dernoncourt, Trung Bui, Seunghyun Yoon

cs.AI

Samenvatting

In een real-world corpus komt kennis vaak terug in verschillende documenten, maar bevat deze vaak inconsistenties door ambiguïteit in benamingen, verouderde informatie of fouten, wat leidt tot complexe onderlinge relaties tussen contexten. Eerder onderzoek heeft aangetoond dat taalmodelen moeite hebben met deze complexiteiten, waarbij ze zich meestal richten op afzonderlijke factoren in isolatie. Wij classificeren deze relaties in vier typen: afleidend, ambigu, contrafeitelijk en gedupliceerd. Onze analyse toont aan dat geen enkele aanpak al deze onderlinge relaties tegelijkertijd effectief aanpakt. Daarom introduceren we Context Organizer (CORG), een raamwerk dat meerdere contexten organiseert in onafhankelijk verwerkte groepen. Dit ontwerp stelt het model in staat om efficiënt alle relevante antwoorden te vinden terwijl het ambiguïteit oplost. CORG bestaat uit drie belangrijke componenten: een grafiekconstructor, een herrangschikker en een aggregator. Onze resultaten tonen aan dat CORG prestaties en efficiëntie effectief in balans brengt, bestaande groeperingsmethoden overtreft en vergelijkbare resultaten behaalt als meer rekenintensieve, single-context benaderingen.

English

In a real-world corpus, knowledge frequently recurs across documents but often contains inconsistencies due to ambiguous naming, outdated information, or errors, leading to complex interrelationships between contexts. Previous research has shown that language models struggle with these complexities, typically focusing on single factors in isolation. We classify these relationships into four types: distracting, ambiguous, counterfactual, and duplicated. Our analysis reveals that no single approach effectively addresses all these interrelationships simultaneously. Therefore, we introduce Context Organizer (CORG), a framework that organizes multiple contexts into independently processed groups. This design allows the model to efficiently find all relevant answers while ensuring disambiguation. CORG consists of three key components: a graph constructor, a reranker, and an aggregator. Our results demonstrate that CORG balances performance and efficiency effectively, outperforming existing grouping methods and achieving comparable results to more computationally intensive, single-context approaches.