Chaîne de pensée auto-harmonisée

Self-Harmonized Chain of Thought

September 6, 2024

Auteurs: Ziqi Jin, Wei Lu

cs.AI

Résumé

La technique de sollicitation de Chaîne de Pensée (CoT) révèle que les grands modèles de langage sont capables d'effectuer un raisonnement complexe via des étapes intermédiaires. La sollicitation CoT est principalement catégorisée en trois approches. La première approche utilise des sollicitations simples telles que "Pensons étape par étape" pour générer un processus de pensée séquentiel avant de fournir une réponse. La deuxième approche utilise des démonstrations élaborées par des humains, étape par étape, pour guider le processus de raisonnement du modèle. La troisième automatise la génération de démonstrations raisonnées avec le "Pensons étape par étape". Cette approche conduit parfois à des erreurs de raisonnement, soulignant la nécessité de diversifier les démonstrations pour atténuer ses effets trompeurs. Cependant, des démonstrations diverses posent des défis pour des représentations efficaces. Dans ce travail, nous proposons ECHO, une méthode de sollicitation de Chaîne de Pensée auto-harmonisée. Elle consolide des chemins de solution divers en un motif de solution uniforme et efficace. ECHO démontre la meilleure performance globale à travers trois domaines de raisonnement.

English

Chain-of-Thought (CoT) prompting reveals that large language models are capable of performing complex reasoning via intermediate steps. CoT prompting is primarily categorized into three approaches. The first approach utilizes straightforward prompts like ``Let's think step by step'' to generate a sequential thought process before yielding an answer. The second approach makes use of human-crafted, step-by-step demonstrations to guide the model's reasoning process. The third automates the generation of reasoned demonstrations with the 'Let's think step by step'.This approach sometimes leads to reasoning errors, highlighting the need to diversify demonstrations to mitigate its misleading effects. However, diverse demonstrations pose challenges for effective representations. In this work, we propose ECHO, a self-harmonized chain-of-thought prompting method. It consolidates diverse solution paths into a uniform and effective solution pattern.ECHO demonstrates the best overall performance across three reasoning domains.