StructRAG: Impulsionando o Raciocínio Intensivo em Conhecimento de LLMs por meio da Estruturação Híbrida de Informações no Momento da Inferência

StructRAG: Boosting Knowledge Intensive Reasoning of LLMs via Inference-time Hybrid Information Structurization

October 11, 2024

Autores: Zhuoqun Li, Xuanang Chen, Haiyang Yu, Hongyu Lin, Yaojie Lu, Qiaoyu Tang, Fei Huang, Xianpei Han, Le Sun, Yongbin Li

cs.AI

Resumo

A geração aumentada por recuperação (RAG) é um meio fundamental para aprimorar efetivamente os grandes modelos de linguagem (LLMs) em muitas tarefas baseadas em conhecimento. No entanto, os métodos de RAG existentes enfrentam dificuldades em tarefas de raciocínio intensivo em conhecimento, pois as informações úteis necessárias para essas tarefas estão dispersas de forma desordenada. Essa característica torna difícil para os métodos de RAG existentes identificar com precisão informações-chave e realizar raciocínio global com tal aumento ruidoso. Neste artigo, motivados pelas teorias cognitivas de que os humanos convertem informações brutas em vários conhecimentos estruturados ao lidar com raciocínio intensivo em conhecimento, propomos um novo framework, StructRAG, que pode identificar o tipo de estrutura ideal para a tarefa em questão, reconstruir documentos originais nesse formato estruturado e inferir respostas com base na estrutura resultante. Experimentos extensivos em várias tarefas intensivas em conhecimento mostram que o StructRAG alcança desempenho de ponta, destacando-se especialmente em cenários desafiadores, demonstrando seu potencial como uma solução eficaz para aprimorar LLMs em aplicações do mundo real complexas.

English

Retrieval-augmented generation (RAG) is a key means to effectively enhance large language models (LLMs) in many knowledge-based tasks. However, existing RAG methods struggle with knowledge-intensive reasoning tasks, because useful information required to these tasks are badly scattered. This characteristic makes it difficult for existing RAG methods to accurately identify key information and perform global reasoning with such noisy augmentation. In this paper, motivated by the cognitive theories that humans convert raw information into various structured knowledge when tackling knowledge-intensive reasoning, we proposes a new framework, StructRAG, which can identify the optimal structure type for the task at hand, reconstruct original documents into this structured format, and infer answers based on the resulting structure. Extensive experiments across various knowledge-intensive tasks show that StructRAG achieves state-of-the-art performance, particularly excelling in challenging scenarios, demonstrating its potential as an effective solution for enhancing LLMs in complex real-world applications.