Logisches Schlussfolgern in großen Sprachmodellen: Eine Übersicht

Logical Reasoning in Large Language Models: A Survey

February 13, 2025

Autoren: Hanmeng Liu, Zhizhang Fu, Mengru Ding, Ruoxi Ning, Chaoli Zhang, Xiaozhang Liu, Yue Zhang

cs.AI

Zusammenfassung

Mit dem Aufkommen fortschrittlicher Argumentationsmodelle wie OpenAI o3 und DeepSeek-R1 haben große Sprachmodelle (LLMs) bemerkenswerte Argumentationsfähigkeiten gezeigt. Die Fähigkeit, strenge logische Argumentation durchzuführen, bleibt jedoch eine offene Frage. Diese Übersicht fasst die neuesten Fortschritte in der logischen Argumentation innerhalb von LLMs zusammen, einem entscheidenden Bereich der KI-Forschung. Sie skizziert den Umfang der logischen Argumentation in LLMs, ihre theoretischen Grundlagen und die Benchmarks, die zur Bewertung der Argumentationsfähigkeit verwendet werden. Wir analysieren bestehende Fähigkeiten in verschiedenen Argumentationsparadigmen - deduktiv, induktiv, abduktiv und analog - und bewerten Strategien zur Verbesserung der Argumentationsleistung, einschließlich datenzentrierter Abstimmung, Verstärkungslernen, Decodierungsstrategien und neuro-symbolischer Ansätze. Die Übersicht schließt mit zukünftigen Richtungen ab und betont die Notwendigkeit weiterer Explorationen zur Stärkung der logischen Argumentation in KI-Systemen.

English

With the emergence of advanced reasoning models like OpenAI o3 and DeepSeek-R1, large language models (LLMs) have demonstrated remarkable reasoning capabilities. However, their ability to perform rigorous logical reasoning remains an open question. This survey synthesizes recent advancements in logical reasoning within LLMs, a critical area of AI research. It outlines the scope of logical reasoning in LLMs, its theoretical foundations, and the benchmarks used to evaluate reasoning proficiency. We analyze existing capabilities across different reasoning paradigms - deductive, inductive, abductive, and analogical - and assess strategies to enhance reasoning performance, including data-centric tuning, reinforcement learning, decoding strategies, and neuro-symbolic approaches. The review concludes with future directions, emphasizing the need for further exploration to strengthen logical reasoning in AI systems.