LLM Potenziati da LLM: Ampliare le Capacità attraverso la Composizione

LLM Augmented LLMs: Expanding Capabilities through Composition

January 4, 2024

Autori: Rachit Bansal, Bidisha Samanta, Siddharth Dalmia, Nitish Gupta, Shikhar Vashishth, Sriram Ganapathy, Abhishek Bapna, Prateek Jain, Partha Talukdar

cs.AI

Abstract

I modelli fondazionali con miliardi di parametri, addestrati su ampi corpora di dati, hanno dimostrato abilità non banali in una varietà di domini. Tuttavia, a causa della loro struttura monolitica, è complesso e costoso potenziarli o impartire loro nuove competenze. D'altro canto, grazie alle loro capacità di adattamento, diverse nuove istanze di questi modelli vengono addestrate per nuovi domini e compiti. In questo lavoro, studiamo il problema della composizione efficiente e pratica di modelli fondazionali esistenti con modelli più specifici per abilitare nuove capacità. A tal fine, proponiamo CALM -- Composition to Augment Language Models -- che introduce un meccanismo di cross-attention tra modelli per comporre le loro rappresentazioni e abilitare nuove funzionalità. Le caratteristiche salienti di CALM sono: (i) Scala i modelli linguistici di grandi dimensioni (LLM) su nuovi compiti "riutilizzando" LLM esistenti insieme a pochi parametri e dati aggiuntivi, (ii) I pesi dei modelli esistenti rimangono intatti, preservando così le capacità già acquisite, e (iii) Si applica a domini e contesti diversi. Dimostriamo che potenziare PaLM2-S con un modello più piccolo addestrato su lingue a bassa risorsa comporta un miglioramento assoluto fino al 13\% in compiti come la traduzione in inglese e il ragionamento aritmetico per lingue a bassa risorsa. Analogamente, quando PaLM2-S viene potenziato con un modello specifico per il codice, osserviamo un miglioramento relativo del 40\% rispetto al modello base per compiti di generazione e spiegazione del codice -- in linea con controparti completamente fine-tuned.

English

Foundational models with billions of parameters which have been trained on large corpora of data have demonstrated non-trivial skills in a variety of domains. However, due to their monolithic structure, it is challenging and expensive to augment them or impart new skills. On the other hand, due to their adaptation abilities, several new instances of these models are being trained towards new domains and tasks. In this work, we study the problem of efficient and practical composition of existing foundation models with more specific models to enable newer capabilities. To this end, we propose CALM -- Composition to Augment Language Models -- which introduces cross-attention between models to compose their representations and enable new capabilities. Salient features of CALM are: (i) Scales up LLMs on new tasks by 're-using' existing LLMs along with a few additional parameters and data, (ii) Existing model weights are kept intact, and hence preserves existing capabilities, and (iii) Applies to diverse domains and settings. We illustrate that augmenting PaLM2-S with a smaller model trained on low-resource languages results in an absolute improvement of up to 13\% on tasks like translation into English and arithmetic reasoning for low-resource languages. Similarly, when PaLM2-S is augmented with a code-specific model, we see a relative improvement of 40\% over the base model for code generation and explanation tasks -- on-par with fully fine-tuned counterparts.