Verso una Decodifica Speculativa Multi-bozza Ottimale

Towards Optimal Multi-draft Speculative Decoding

February 26, 2025

Autori: Zhengmian Hu, Tong Zheng, Vignesh Viswanathan, Ziyi Chen, Ryan A. Rossi, Yihan Wu, Dinesh Manocha, Heng Huang

cs.AI

Abstract

I modelli linguistici di grandi dimensioni (LLM) sono diventati una componente indispensabile per le attività di elaborazione del linguaggio naturale. Tuttavia, il campionamento autoregressivo è diventato un collo di bottiglia in termini di efficienza. Il Multi-Draft Speculative Decoding (MDSD) è un approccio recente in cui, durante la generazione di ciascun token, un piccolo modello di bozze genera più bozze, e il LLM target le verifica in parallelo, assicurando che l'output finale sia conforme alla distribuzione del modello target. Le due principali scelte progettuali nell'MDSD sono il metodo di campionamento delle bozze e l'algoritmo di verifica. Per un metodo di campionamento delle bozze fissato, il tasso di accettazione ottimale è la soluzione di un problema di trasporto ottimale, ma la complessità di questo problema rende difficile calcolare il tasso di accettazione ottimale e misurare il divario tra gli algoritmi di verifica esistenti e il limite teorico superiore. Questo articolo discute il duale del problema di trasporto ottimale, fornendo un modo per calcolare in modo efficiente il tasso di accettazione ottimale. Per la prima volta, misuriamo il limite teorico superiore dell'efficienza dell'MDSD per dimensioni del vocabolario nell'ordine delle migliaia e quantifichiamo il divario tra gli algoritmi di verifica esistenti e questo limite. Confrontiamo inoltre diversi metodi di campionamento delle bozze in base ai loro tassi di accettazione ottimali. I nostri risultati mostrano che il metodo di campionamento delle bozze influenza fortemente il tasso di accettazione ottimale, con il campionamento senza sostituzione che supera il campionamento con sostituzione. Inoltre, gli algoritmi di verifica esistenti non raggiungono il limite teorico superiore sia per il campionamento senza sostituzione che con sostituzione. I nostri risultati suggeriscono che metodi di campionamento delle bozze progettati con cura possono potenzialmente migliorare il tasso di accettazione ottimale e consentire lo sviluppo di algoritmi di verifica che si avvicinino al limite teorico superiore.

English

Large Language Models (LLMs) have become an indispensable part of natural language processing tasks. However, autoregressive sampling has become an efficiency bottleneck. Multi-Draft Speculative Decoding (MDSD) is a recent approach where, when generating each token, a small draft model generates multiple drafts, and the target LLM verifies them in parallel, ensuring that the final output conforms to the target model distribution. The two main design choices in MDSD are the draft sampling method and the verification algorithm. For a fixed draft sampling method, the optimal acceptance rate is a solution to an optimal transport problem, but the complexity of this problem makes it difficult to solve for the optimal acceptance rate and measure the gap between existing verification algorithms and the theoretical upper bound. This paper discusses the dual of the optimal transport problem, providing a way to efficiently compute the optimal acceptance rate. For the first time, we measure the theoretical upper bound of MDSD efficiency for vocabulary sizes in the thousands and quantify the gap between existing verification algorithms and this bound. We also compare different draft sampling methods based on their optimal acceptance rates. Our results show that the draft sampling method strongly influences the optimal acceptance rate, with sampling without replacement outperforming sampling with replacement. Additionally, existing verification algorithms do not reach the theoretical upper bound for both without replacement and with replacement sampling. Our findings suggest that carefully designed draft sampling methods can potentially improve the optimal acceptance rate and enable the development of verification algorithms that closely match the theoretical upper bound.