Correzione: Risolvi tutti gli errori con un solo tocco

Proofread: Fixes All Errors with One Tap

June 6, 2024

Autori: Renjie Liu, Yanxiang Zhang, Yun Zhu, Haicheng Sun, Yuanbo Zhang, Michael Xuelin Huang, Shanqing Cai, Lei Meng, Shumin Zhai

cs.AI

Abstract

Le impressionanti capacità dei Large Language Models (LLM) offrono un approccio potente per reinventare l'esperienza di digitazione degli utenti. Questo articolo presenta Proofread, una nuova funzionalità di Gboard alimentata da un LLM lato server, che consente correzioni a livello di frase e paragrafo con un semplice tocco. Descriviamo il sistema completo in questo articolo, dalla generazione dei dati, alla progettazione delle metriche, fino alla messa a punto e al deployment del modello. Per ottenere modelli di qualità sufficiente, implementiamo una pipeline di dati sintetici accuratamente progettata per casi d'uso online, progettiamo metriche multidimensionali e adottiamo un approccio di messa a punto in due fasi per acquisire l'LLM dedicato alla funzionalità: il Supervised Fine Tuning (SFT) per la qualità di base, seguito dall'approccio di Reinforcement Learning (RL) per un affinamento mirato. In particolare, scopriamo che la messa a punto sequenziale sui task di Rewrite e proofread produce la migliore qualità nella fase SFT, e proponiamo ricompense globali e dirette nella fase di RL per cercare ulteriori miglioramenti. Esperimenti estesi su un set golden etichettato manualmente hanno mostrato che il nostro modello PaLM2-XS messo a punto ha raggiunto un rapporto di qualità dell'85,56\%. Abbiamo lanciato la funzionalità sui dispositivi Pixel 8 servendo il modello su TPU v5 in Google Cloud, con migliaia di utenti attivi giornalieri. La latenza di servizio è stata significativamente ridotta grazie alla quantizzazione, all'inferenza a bucket, alla segmentazione del testo e al decoding speculativo. La nostra demo è visibile su https://youtu.be/4ZdcuiwFU7I{Youtube}.

English

The impressive capabilities in Large Language Models (LLMs) provide a powerful approach to reimagine users' typing experience. This paper demonstrates Proofread, a novel Gboard feature powered by a server-side LLM in Gboard, enabling seamless sentence-level and paragraph-level corrections with a single tap. We describe the complete system in this paper, from data generation, metrics design to model tuning and deployment. To obtain models with sufficient quality, we implement a careful data synthetic pipeline tailored to online use cases, design multifaceted metrics, employ a two-stage tuning approach to acquire the dedicated LLM for the feature: the Supervised Fine Tuning (SFT) for foundational quality, followed by the Reinforcement Learning (RL) tuning approach for targeted refinement. Specifically, we find sequential tuning on Rewrite and proofread tasks yields the best quality in SFT stage, and propose global and direct rewards in the RL tuning stage to seek further improvement. Extensive experiments on a human-labeled golden set showed our tuned PaLM2-XS model achieved 85.56\% good ratio. We launched the feature to Pixel 8 devices by serving the model on TPU v5 in Google Cloud, with thousands of daily active users. Serving latency was significantly reduced by quantization, bucket inference, text segmentation, and speculative decoding. Our demo could be seen in https://youtu.be/4ZdcuiwFU7I{Youtube}.