CORG: Generierung von Antworten aus komplexen, miteinander verknüpften Kontexten

CORG: Generating Answers from Complex, Interrelated Contexts

April 25, 2025

Autoren: Hyunji Lee, Franck Dernoncourt, Trung Bui, Seunghyun Yoon

cs.AI

Zusammenfassung

In einem realen Textkorpus tritt Wissen häufig über verschiedene Dokumente hinweg auf, enthält jedoch oft Inkonsistenzen aufgrund von mehrdeutigen Benennungen, veralteten Informationen oder Fehlern, was zu komplexen Wechselbeziehungen zwischen Kontexten führt. Frühere Forschungen haben gezeigt, dass Sprachmodelle mit diesen Komplexitäten Schwierigkeiten haben und sich typischerweise auf einzelne Faktoren isoliert konzentrieren. Wir klassifizieren diese Beziehungen in vier Typen: ablenkend, mehrdeutig, kontrafaktisch und dupliziert. Unsere Analyse zeigt, dass kein einzelner Ansatz alle diese Wechselbeziehungen gleichzeitig effektiv adressiert. Daher führen wir den Context Organizer (CORG) ein, ein Framework, das mehrere Kontexte in unabhängig verarbeitete Gruppen organisiert. Dieser Entwurf ermöglicht es dem Modell, effizient alle relevanten Antworten zu finden und gleichzeitig Mehrdeutigkeiten zu beseitigen. CORG besteht aus drei Schlüsselkomponenten: einem Graph-Konstruktor, einem Re-Ranker und einem Aggregator. Unsere Ergebnisse zeigen, dass CORG Leistung und Effizienz effektiv ausbalanciert, bestehende Gruppierungsmethoden übertrifft und vergleichbare Ergebnisse zu rechenintensiveren, einzelkontextbasierten Ansätzen erzielt.

English

In a real-world corpus, knowledge frequently recurs across documents but often contains inconsistencies due to ambiguous naming, outdated information, or errors, leading to complex interrelationships between contexts. Previous research has shown that language models struggle with these complexities, typically focusing on single factors in isolation. We classify these relationships into four types: distracting, ambiguous, counterfactual, and duplicated. Our analysis reveals that no single approach effectively addresses all these interrelationships simultaneously. Therefore, we introduce Context Organizer (CORG), a framework that organizes multiple contexts into independently processed groups. This design allows the model to efficiently find all relevant answers while ensuring disambiguation. CORG consists of three key components: a graph constructor, a reranker, and an aggregator. Our results demonstrate that CORG balances performance and efficiency effectively, outperforming existing grouping methods and achieving comparable results to more computationally intensive, single-context approaches.