Todo sobre los Pensamientos: Desafiando la Ley del Triángulo de Penrose para la Generación de Pensamientos

Everything of Thoughts: Defying the Law of Penrose Triangle for Thought Generation

November 7, 2023

Autores: Ruomeng Ding, Chaoyun Zhang, Lu Wang, Yong Xu, Minghua Ma, Wei Zhang, Si Qin, Saravan Rajmohan, Qingwei Lin, Dongmei Zhang

cs.AI

Resumen

Los recientes avances en los Modelos de Lenguaje a Gran Escala (LLMs, por sus siglas en inglés) han revolucionado la toma de decisiones al descomponer problemas complejos en secuencias de lenguaje más manejables, denominadas "pensamientos". Un diseño efectivo de pensamientos debe considerar tres perspectivas clave: rendimiento, eficiencia y flexibilidad. Sin embargo, los pensamientos existentes pueden exhibir, como máximo, dos de estos atributos. Para abordar estas limitaciones, presentamos un nuevo enfoque de generación de pensamientos llamado "Todo sobre Pensamientos" (XoT, por sus siglas en inglés), que desafía la ley del "triángulo de Penrose" de los paradigmas de pensamiento existentes. XoT aprovecha el aprendizaje por refuerzo preentrenado y la Búsqueda de Árbol de Monte Carlo (MCTS, por sus siglas en inglés) para incorporar conocimiento externo del dominio en los pensamientos, mejorando así las capacidades de los LLMs y permitiéndoles generalizar eficientemente a problemas no vistos. Mediante la utilización del marco de revisión de pensamientos colaborativo MCTS-LLM, este enfoque produce de manera autónoma mapeos cognitivos completos y de alta calidad con interacciones mínimas de los LLMs. Además, XoT capacita a los LLMs para participar en pensamientos sin restricciones, permitiendo mapeos cognitivos flexibles para problemas con múltiples soluciones.

English

Recent advancements in Large Language Models (LLMs) have revolutionized decision-making by breaking down complex problems into more manageable language sequences referred to as ``thoughts''. An effective thought design should consider three key perspectives: performance, efficiency, and flexibility. However, existing thought can at most exhibit two of these attributes. To address these limitations, we introduce a novel thought prompting approach called ``Everything of Thoughts'' (XoT) to defy the law of ``Penrose triangle of existing thought paradigms. XoT leverages pretrained reinforcement learning and Monte Carlo Tree Search (MCTS) to incorporate external domain knowledge into thoughts, thereby enhancing LLMs' capabilities and enabling them to generalize to unseen problems efficiently. Through the utilization of the MCTS-LLM collaborative thought revision framework, this approach autonomously produces high-quality comprehensive cognitive mappings with minimal LLM interactions. Additionally, XoT empowers LLMs to engage in unconstrained thinking, allowing for flexible cognitive mappings for problems with multiple solutions.