OmniThink: Ampliando los Límites del Conocimiento en la Escritura Automática a través del Pensamiento

OmniThink: Expanding Knowledge Boundaries in Machine Writing through Thinking

January 16, 2025

Autores: Zekun Xi, Wenbiao Yin, Jizhan Fang, Jialong Wu, Runnan Fang, Ningyu Zhang, Jiang Yong, Pengjun Xie, Fei Huang, Huajun Chen

cs.AI

Resumen

La escritura automática con grandes modelos de lenguaje a menudo se basa en la generación aumentada por recuperación. Sin embargo, estos enfoques permanecen confinados dentro de los límites del alcance predefinido del modelo, lo que limita la generación de contenido con información rica. Específicamente, la información recuperada de forma básica tiende a carecer de profundidad, utilidad y sufre de redundancia, lo que impacta negativamente en la calidad de los artículos generados, resultando en salidas superficiales, repetitivas y poco originales. Para abordar estos problemas, proponemos OmniThink, un marco de escritura automática que emula el proceso humano de expansión iterativa y reflexión. La idea central detrás de OmniThink es simular el comportamiento cognitivo de los aprendices a medida que profundizan progresivamente su conocimiento de los temas. Los resultados experimentales demuestran que OmniThink mejora la densidad de conocimiento de los artículos generados sin comprometer métricas como coherencia y profundidad. Las evaluaciones humanas y la retroalimentación de expertos resaltan además el potencial de OmniThink para abordar desafíos del mundo real en la generación de artículos extensos.

English

Machine writing with large language models often relies on retrieval-augmented generation. However, these approaches remain confined within the boundaries of the model's predefined scope, limiting the generation of content with rich information. Specifically, vanilla-retrieved information tends to lack depth, utility, and suffers from redundancy, which negatively impacts the quality of generated articles, leading to shallow, repetitive, and unoriginal outputs. To address these issues, we propose OmniThink, a machine writing framework that emulates the human-like process of iterative expansion and reflection. The core idea behind OmniThink is to simulate the cognitive behavior of learners as they progressively deepen their knowledge of the topics. Experimental results demonstrate that OmniThink improves the knowledge density of generated articles without compromising metrics such as coherence and depth. Human evaluations and expert feedback further highlight the potential of OmniThink to address real-world challenges in the generation of long-form articles.