ENTLORE：エンタープライズ質問応答における潜在的な組織推論のためのグラフ基盤ベンチマーク

要旨

エンタープライズ質問応答は、内部文書を検索し、根拠のある回答を生成するものとして位置づけられる。しかし、日常的なエンタープライズ記録は業務の副産物であり、必要な組織関係は異種ソース間で暗黙のまま残る。既存のベンチマークは現実的な複数ソースのエビデンスを提供するが、多くの場合、事前定義された回答経路を具現化するため、コーパスに存在しない対象関係の回復ではなく、明示された事実の合成をテストする。我々は後者の能力を潜在組織推論と呼ぶ。本稿では、日常文書、権威ある組織表、および業務記録から監査済みのエンタープライズ世界を再構築する、グラフを基盤とするベンチマーク構築フレームワークであるENTLOREを紹介する。バージョン管理された組織の取り決めは、真実グラフ内の導出関係を保証し、完全なゴールド回答と証明書を可能にする。整合済みの匿名化リリースは、文書コーパスのみを公開し、非公開の構造と対象関係は秘匿する。ENTLOREは、3つのソースタイプからの2,341文書と、明示的検索、クロスソース合成、および潜在組織推論にわたる907の質問を含み、56のモデルおよびアクセス構成にわたって評価される。公開された世界を誘導エンティティグラフまたはナビゲート可能な知識ベースとして構造化することが、最も強力な実運用可能な結果をもたらす。しかし、ゴールド文書を提供しても、潜在質問の30.4%は未回答のまま残る。これに対し、明示的質問と合成質問ではそれぞれ12.6%と6.2%である。したがって、エンタープライズQAは文書の再現率だけでなく、暗黙の組織関係が利用可能になるかどうかにも依存する。ベンチマーク、データ、コードはENTLOREで公開されている。

English

Enterprise question answering is framed as retrieving internal documents and generating grounded answers. Routine enterprise records, however, are work by-products in which required organizational relations remain implicit across heterogeneous sources. Existing benchmarks provide realistic multi-source evidence, but often materialize a predefined answer path and therefore test the composition of stated facts rather than recovery of a target relation absent from the corpus. We call the latter capability latent organizational reasoning. We introduce ENTLORE, a graph-grounded benchmark construction framework that reconstructs an audited enterprise world from routine documents, authoritative organizational tables, and operational records. Versioned organizational conventions certify derived relations in a truth graph, enabling complete golden answers and proof certificates. The aligned anonymized release exposes only the document corpus while withholding private structure and target relations. ENTLORE contains 2,341 documents from three source types and 907 questions spanning explicit lookup, cross-source composition, and latent organizational reasoning, evaluated across 56 model and access configurations. Structuring the released world as an induced entity graph or navigable knowledge base gives the strongest deployable results. Yet supplying gold documents still leaves 30.4% of latent questions unanswered, versus 12.6% and 6.2% for explicit and compositional questions. Enterprise QA therefore depends not only on document recall, but also on whether implicit organizational relations become usable. The benchmark, data, and code are publicly available at ENTLORE.