DeCoRe: 幻覚を緩和するための対照的な検索ヘッドによる復号

要旨

大規模言語モデル（LLMs）はしばしば幻覚を見せ、提供されたコンテキストを誤解したり、内部の知識を誤って思い出したりして、忠実でない、あるいは事実と異なる出力を生成します。最近の研究では、Transformerアーキテクチャ内の特定の注意ヘッド、リトリーバルヘッドとして知られるものが、関連するコンテキスト情報を抽出する責任があることが特定されています。私たちは、これらのリトリーバルヘッドをマスキングすることで幻覚を誘発し、基本的なLLMとマスクされたLLMの出力を対照することで幻覚を軽減できると仮説立てます。このために、コントラストリトリーバルヘッドによるデコーディング（DeCoRe）という、新しいトレーニングフリーのデコーディング戦略を提案します。DeCoReは、コンテキストとモデルパラメータで見つかった情報を増幅します。DeCoReは、条件付きエントロピーをガイドとして使用し、基本的なLLMとマスクされたLLMの出力を動的に対照することで、潜在的な幻覚的な応答を緩和します。私たちの幅広い実験は、DeCoReが要求される高いコンテキストの忠実さが必要なタスクにおいて、性能を大幅に向上させることを確認しています。これには、要約（XSumで18.6%）、指示に従うこと（MemoTrapで10.9%）、オープンブック型の質問応答（NQ-Openで2.4%、NQ-Swapで5.5%）などが含まれます。

English

Large Language Models (LLMs) often hallucinate, producing unfaithful or factually incorrect outputs by misrepresenting the provided context or incorrectly recalling internal knowledge. Recent studies have identified specific attention heads within the Transformer architecture, known as retrieval heads, responsible for extracting relevant contextual information. We hypothesise that masking these retrieval heads can induce hallucinations and that contrasting the outputs of the base LLM and the masked LLM can reduce hallucinations. To this end, we propose Decoding by Contrasting Retrieval Heads (DeCoRe), a novel training-free decoding strategy that amplifies information found in the context and model parameters. DeCoRe mitigates potentially hallucinated responses by dynamically contrasting the outputs of the base LLM and the masked LLM, using conditional entropy as a guide. Our extensive experiments confirm that DeCoRe significantly improves performance on tasks requiring high contextual faithfulness, such as summarisation (XSum by 18.6%), instruction following (MemoTrap by 10.9%), and open-book question answering (NQ-Open by 2.4% and NQ-Swap by 5.5%).

DeCoRe: 幻覚を緩和するための対照的な検索ヘッドによる復号

DeCoRe: Decoding by Contrasting Retrieval Heads to Mitigate Hallucinations

要旨

Summary

Support

Support