Zelf-geharmoniseerde Gedachteketen

Self-Harmonized Chain of Thought

September 6, 2024

Auteurs: Ziqi Jin, Wei Lu

cs.AI

Samenvatting

Chain-of-Thought (CoT) prompting onthult dat grote taalmodellen in staat zijn om complex redeneren uit te voeren via tussenstappen. CoT prompting wordt voornamelijk onderverdeeld in drie benaderingen. De eerste benadering maakt gebruik van eenvoudige prompts zoals "Laten we stap voor stap denken" om een sequentieel denkproces te genereren voordat het een antwoord oplevert. De tweede benadering maakt gebruik van door mensen gemaakte, stapsgewijze demonstraties om het redeneerproces van het model te begeleiden. De derde automatiseert de generatie van beredeneerde demonstraties met de 'Laten we stap voor stap denken'. Deze benadering leidt soms tot redeneerfouten, waarbij de noodzaak wordt benadrukt om demonstraties te diversifiëren om de misleidende effecten te beperken. Diverse demonstraties vormen echter een uitdaging voor effectieve representaties. In dit werk stellen we ECHO voor, een zelf-geharmoniseerde chain-of-thought prompting methode. Het consolideert diverse oplossingspaden tot een uniform en effectief oplossingspatroon. ECHO toont de beste algehele prestaties over drie redeneerdomeinen.

English

Chain-of-Thought (CoT) prompting reveals that large language models are capable of performing complex reasoning via intermediate steps. CoT prompting is primarily categorized into three approaches. The first approach utilizes straightforward prompts like ``Let's think step by step'' to generate a sequential thought process before yielding an answer. The second approach makes use of human-crafted, step-by-step demonstrations to guide the model's reasoning process. The third automates the generation of reasoned demonstrations with the 'Let's think step by step'.This approach sometimes leads to reasoning errors, highlighting the need to diversify demonstrations to mitigate its misleading effects. However, diverse demonstrations pose challenges for effective representations. In this work, we propose ECHO, a self-harmonized chain-of-thought prompting method. It consolidates diverse solution paths into a uniform and effective solution pattern.ECHO demonstrates the best overall performance across three reasoning domains.