OlaGPT: Capacitando LLMs com Habilidades de Resolução de Problemas Semelhantes às Humanas

OlaGPT: Empowering LLMs With Human-like Problem-Solving Abilities

May 23, 2023

Autores: Yuanzhen Xie, Tao Xie, Mingxiong Lin, WenTao Wei, Chenglin Li, Beibei Kong, Lei Chen, Chengxiang Zhuo, Bo Hu, Zang Li

cs.AI

Resumo

Na maioria das pesquisas atuais, os grandes modelos de linguagem (LLMs) são capazes de realizar tarefas de raciocínio gerando cadeias de pensamento por meio da orientação de prompts específicos. No entanto, ainda existe uma discrepância significativa entre sua capacidade de resolver problemas complexos de raciocínio e a dos seres humanos. Atualmente, a maioria das abordagens se concentra em cadeias de pensamento (COT) e no uso de ferramentas, sem considerar a adoção e aplicação de estruturas cognitivas humanas. É bem sabido que, ao enfrentar desafios complexos de raciocínio, os seres humanos geralmente empregam várias habilidades cognitivas e necessitam de interação com todos os aspectos de ferramentas, conhecimento e informações do ambiente externo para realizar tarefas intrincadas. Este artigo introduz uma nova estrutura inteligente, denominada OlaGPT. O OlaGPT estudou cuidadosamente uma estrutura de arquitetura cognitiva e propõe simular certos aspectos da cognição humana. A estrutura envolve a aproximação de diferentes módulos cognitivos, incluindo atenção, memória, raciocínio, aprendizado e mecanismos correspondentes de agendamento e tomada de decisão. Inspirado pelo mecanismo de aprendizado ativo dos seres humanos, propõe uma unidade de aprendizado para registrar erros anteriores e opiniões de especialistas, e referenciá-los dinamicamente para fortalecer sua capacidade de resolver problemas semelhantes. O artigo também descreve estruturas comuns de raciocínio eficazes para a resolução de problemas humanos e projeta modelos de Chain-of-Thought (COT) de acordo. Um mecanismo abrangente de tomada de decisão também é proposto para maximizar a precisão do modelo. A eficácia do OlaGPT foi rigorosamente avaliada em vários conjuntos de dados de raciocínio, e os resultados experimentais revelam que o OlaGPT supera os benchmarks state-of-the-art, demonstrando seu desempenho superior. Nossa implementação do OlaGPT está disponível no GitHub: https://github.com/oladata-team/OlaGPT.

English

In most current research, large language models (LLMs) are able to perform reasoning tasks by generating chains of thought through the guidance of specific prompts. However, there still exists a significant discrepancy between their capability in solving complex reasoning problems and that of humans. At present, most approaches focus on chains of thought (COT) and tool use, without considering the adoption and application of human cognitive frameworks. It is well-known that when confronting complex reasoning challenges, humans typically employ various cognitive abilities, and necessitate interaction with all aspects of tools, knowledge, and the external environment information to accomplish intricate tasks. This paper introduces a novel intelligent framework, referred to as OlaGPT. OlaGPT carefully studied a cognitive architecture framework, and propose to simulate certain aspects of human cognition. The framework involves approximating different cognitive modules, including attention, memory, reasoning, learning, and corresponding scheduling and decision-making mechanisms. Inspired by the active learning mechanism of human beings, it proposes a learning unit to record previous mistakes and expert opinions, and dynamically refer to them to strengthen their ability to solve similar problems. The paper also outlines common effective reasoning frameworks for human problem-solving and designs Chain-of-Thought (COT) templates accordingly. A comprehensive decision-making mechanism is also proposed to maximize model accuracy. The efficacy of OlaGPT has been stringently evaluated on multiple reasoning datasets, and the experimental outcomes reveal that OlaGPT surpasses state-of-the-art benchmarks, demonstrating its superior performance. Our implementation of OlaGPT is available on GitHub: https://github.com/oladata-team/OlaGPT.