StructRAG: Potenziare il Ragionamento Intensivo di Conoscenza delle LLM tramite Ibridazione dell'Informazione Strutturata al Momento dell'Inferenza

StructRAG: Boosting Knowledge Intensive Reasoning of LLMs via Inference-time Hybrid Information Structurization

October 11, 2024

Autori: Zhuoqun Li, Xuanang Chen, Haiyang Yu, Hongyu Lin, Yaojie Lu, Qiaoyu Tang, Fei Huang, Xianpei Han, Le Sun, Yongbin Li

cs.AI

Abstract

Il Generatore potenziato da recupero (RAG) rappresenta un mezzo fondamentale per potenziare efficacemente i grandi modelli linguistici (LLM) in molte attività basate sulla conoscenza. Tuttavia, i metodi RAG esistenti faticano con compiti di ragionamento intensivi di conoscenza, poiché le informazioni utili richieste per questi compiti sono scarsamente distribuite. Questa caratteristica rende difficile per i metodi RAG esistenti identificare con precisione le informazioni chiave e svolgere un ragionamento globale con tale potenziamento rumoroso. In questo articolo, motivati dalle teorie cognitive che gli esseri umani convertono le informazioni grezze in varie conoscenze strutturate quando affrontano compiti di ragionamento intensivi di conoscenza, proponiamo un nuovo framework, StructRAG, che può identificare il tipo di struttura ottimale per il compito in questione, ricostruire i documenti originali in questo formato strutturato e inferire risposte basate sulla struttura risultante. Estesi esperimenti su vari compiti intensivi di conoscenza mostrano che StructRAG raggiunge prestazioni all'avanguardia, eccellendo in particolare in scenari impegnativi, dimostrando il suo potenziale come soluzione efficace per potenziare i LLM in complesse applicazioni reali.

English

Retrieval-augmented generation (RAG) is a key means to effectively enhance large language models (LLMs) in many knowledge-based tasks. However, existing RAG methods struggle with knowledge-intensive reasoning tasks, because useful information required to these tasks are badly scattered. This characteristic makes it difficult for existing RAG methods to accurately identify key information and perform global reasoning with such noisy augmentation. In this paper, motivated by the cognitive theories that humans convert raw information into various structured knowledge when tackling knowledge-intensive reasoning, we proposes a new framework, StructRAG, which can identify the optimal structure type for the task at hand, reconstruct original documents into this structured format, and infer answers based on the resulting structure. Extensive experiments across various knowledge-intensive tasks show that StructRAG achieves state-of-the-art performance, particularly excelling in challenging scenarios, demonstrating its potential as an effective solution for enhancing LLMs in complex real-world applications.