Jouw Context Is Geen Array: Onthulling van Beperkingen in Willekeurige Toegang bij Transformers

Your Context Is Not an Array: Unveiling Random Access Limitations in Transformers

August 10, 2024

Auteurs: MohammadReza Ebrahimi, Sunny Panchal, Roland Memisevic

cs.AI

Samenvatting

Ondanks hun recente successen vertonen Transformer-gebaseerde grote taalmodellen verrassende foutpatronen. Een bekend voorbeeld van dergelijke foutpatronen is hun onvermogen om lengte te generaliseren: het oplossen van probleeminstanties tijdens inferentie die langer zijn dan die welke tijdens de training zijn gezien. In dit werk onderzoeken we de oorzaak van dit falen verder door een gedetailleerde analyse uit te voeren van modelgedragingen op de eenvoudige pariteitstaak. Onze analyse suggereert dat fouten in lengtegeneralisatie nauw verband houden met het onvermogen van een model om willekeurige geheugentoegangen uit te voeren binnen zijn contextvenster. We presenteren ondersteunend bewijs voor deze hypothese door de effectiviteit aan te tonen van methodologieën die de noodzaak voor indexering omzeilen of die indirect willekeurige token-toegang mogelijk maken, via inhoudsgebaseerde adressering. We laten verder zien waar en hoe het falen om willekeurige geheugentoegang uit te voeren zich manifesteert door middel van visualisaties van aandachtkaarten.

English

Despite their recent successes, Transformer-based large language models show surprising failure modes. A well-known example of such failure modes is their inability to length-generalize: solving problem instances at inference time that are longer than those seen during training. In this work, we further explore the root cause of this failure by performing a detailed analysis of model behaviors on the simple parity task. Our analysis suggests that length generalization failures are intricately related to a model's inability to perform random memory accesses within its context window. We present supporting evidence for this hypothesis by demonstrating the effectiveness of methodologies that circumvent the need for indexing or that enable random token access indirectly, through content-based addressing. We further show where and how the failure to perform random memory access manifests through attention map visualizations.