Selbstabgestimmte Gedankenkette

Self-Harmonized Chain of Thought

September 6, 2024

Autoren: Ziqi Jin, Wei Lu

cs.AI

Zusammenfassung

Die Chain-of-Thought (CoT)-Aufforderung zeigt, dass große Sprachmodelle in der Lage sind, komplexe Schlussfolgerungen über Zwischenschritte durchzuführen. CoT-Aufforderungen werden hauptsächlich in drei Ansätze unterteilt. Der erste Ansatz verwendet einfache Aufforderungen wie "Lassen Sie uns Schritt für Schritt denken", um einen sequenziellen Denkprozess zu generieren, bevor eine Antwort gegeben wird. Der zweite Ansatz nutzt von Menschen erstellte, schrittweise Demonstrationen, um den Denkprozess des Modells zu lenken. Der dritte automatisiert die Generierung begründeter Demonstrationen mit der Aufforderung "Lassen Sie uns Schritt für Schritt denken". Dieser Ansatz führt manchmal zu Schlussfolgerungsfehlern, was die Notwendigkeit unterstreicht, Demonstrationen zu diversifizieren, um ihre irreführenden Effekte zu mildern. Allerdings stellen vielfältige Demonstrationen Herausforderungen für effektive Repräsentationen dar. In dieser Arbeit schlagen wir ECHO vor, eine selbstabgestimmte Chain-of-Thought-Aufforderungsmethode. Sie konsolidiert diverse Lösungswege in einheitliche und effektive Lösungsmuster. ECHO zeigt die beste Gesamtleistung in drei Schlussfolgerungsbereichen.

English

Chain-of-Thought (CoT) prompting reveals that large language models are capable of performing complex reasoning via intermediate steps. CoT prompting is primarily categorized into three approaches. The first approach utilizes straightforward prompts like ``Let's think step by step'' to generate a sequential thought process before yielding an answer. The second approach makes use of human-crafted, step-by-step demonstrations to guide the model's reasoning process. The third automates the generation of reasoned demonstrations with the 'Let's think step by step'.This approach sometimes leads to reasoning errors, highlighting the need to diversify demonstrations to mitigate its misleading effects. However, diverse demonstrations pose challenges for effective representations. In this work, we propose ECHO, a self-harmonized chain-of-thought prompting method. It consolidates diverse solution paths into a uniform and effective solution pattern.ECHO demonstrates the best overall performance across three reasoning domains.