심층 추론을 통한 에이전트형 RAG로: 대형 언어 모델에서의 RAG-추론 시스템에 대한 조사

초록

검색 증강 생성(Retrieval-Augmented Generation, RAG)은 외부 지식을 주입함으로써 대형 언어 모델(LLMs)의 사실성을 향상시키지만, 다단계 추론이 필요한 문제에서는 한계를 보입니다. 반면, 순수 추론 중심 접근법은 종종 사실을 왜곡하거나 잘못된 근거를 제공합니다. 본 조사는 이러한 두 가지 접근법을 통합된 추론-검색 관점에서 종합합니다. 먼저, 고급 추론이 RAG의 각 단계를 어떻게 최적화하는지 매핑합니다(추론 강화 RAG). 그런 다음, 다양한 유형의 검색된 지식이 누락된 전제를 제공하고 복잡한 추론을 위한 맥락을 확장하는 방법을 보여줍니다(RAG 강화 추론). 마지막으로, (에이전트형) LLM이 검색과 추론을 반복적으로 교차하며 지식 집약적 벤치마크에서 최첨단 성능을 달성하는 신흥 시너지 RAG-추론 프레임워크를 조명합니다. 우리는 방법론, 데이터셋, 그리고 열린 과제들을 분류하고, 더 효과적이고 다중 모드에 적응 가능하며 신뢰할 수 있고 인간 중심적인 심층 RAG-추론 시스템을 위한 연구 방향을 제시합니다. 이 컬렉션은 https://github.com/DavidZWZ/Awesome-RAG-Reasoning에서 확인할 수 있습니다.

English

Retrieval-Augmented Generation (RAG) lifts the factuality of Large Language Models (LLMs) by injecting external knowledge, yet it falls short on problems that demand multi-step inference; conversely, purely reasoning-oriented approaches often hallucinate or mis-ground facts. This survey synthesizes both strands under a unified reasoning-retrieval perspective. We first map how advanced reasoning optimizes each stage of RAG (Reasoning-Enhanced RAG). Then, we show how retrieved knowledge of different type supply missing premises and expand context for complex inference (RAG-Enhanced Reasoning). Finally, we spotlight emerging Synergized RAG-Reasoning frameworks, where (agentic) LLMs iteratively interleave search and reasoning to achieve state-of-the-art performance across knowledge-intensive benchmarks. We categorize methods, datasets, and open challenges, and outline research avenues toward deeper RAG-Reasoning systems that are more effective, multimodally-adaptive, trustworthy, and human-centric. The collection is available at https://github.com/DavidZWZ/Awesome-RAG-Reasoning.

심층 추론을 통한 에이전트형 RAG로: 대형 언어 모델에서의 RAG-추론 시스템에 대한 조사

Towards Agentic RAG with Deep Reasoning: A Survey of RAG-Reasoning Systems in LLMs

초록

Support