Логическое мышление в крупных языковых моделях: обзор

Logical Reasoning in Large Language Models: A Survey

February 13, 2025

Авторы: Hanmeng Liu, Zhizhang Fu, Mengru Ding, Ruoxi Ning, Chaoli Zhang, Xiaozhang Liu, Yue Zhang

cs.AI

Аннотация

С появлением продвинутых моделей рассуждения, таких как OpenAI o3 и DeepSeek-R1, большие языковые модели (LLM) продемонстрировали выдающиеся способности к рассуждениям. Однако их способность к проведению строгого логического рассуждения остается открытым вопросом. Этот обзор синтезирует последние достижения в логическом рассуждении в рамках LLM, критической области исследований в области искусственного интеллекта. Он определяет объем логического рассуждения в LLM, его теоретические основы и бенчмарки, используемые для оценки профессионализма в рассуждениях. Мы анализируем существующие возможности в различных парадигмах рассуждения - дедуктивном, индуктивном, абдуктивном и аналогичном - и оцениваем стратегии для улучшения производительности в рассуждениях, включая настройку на основе данных, обучение с подкреплением, стратегии декодирования и нейросимволические подходы. Обзор завершается перспективами развития, акцентируя внимание на необходимости дальнейшего исследования для укрепления логического рассуждения в системах искусственного интеллекта.

English

With the emergence of advanced reasoning models like OpenAI o3 and DeepSeek-R1, large language models (LLMs) have demonstrated remarkable reasoning capabilities. However, their ability to perform rigorous logical reasoning remains an open question. This survey synthesizes recent advancements in logical reasoning within LLMs, a critical area of AI research. It outlines the scope of logical reasoning in LLMs, its theoretical foundations, and the benchmarks used to evaluate reasoning proficiency. We analyze existing capabilities across different reasoning paradigms - deductive, inductive, abductive, and analogical - and assess strategies to enhance reasoning performance, including data-centric tuning, reinforcement learning, decoding strategies, and neuro-symbolic approaches. The review concludes with future directions, emphasizing the need for further exploration to strengthen logical reasoning in AI systems.