Correction instantanée : résolvez toutes les erreurs en un seul clic

Proofread: Fixes All Errors with One Tap

June 6, 2024

Auteurs: Renjie Liu, Yanxiang Zhang, Yun Zhu, Haicheng Sun, Yuanbo Zhang, Michael Xuelin Huang, Shanqing Cai, Lei Meng, Shumin Zhai

cs.AI

Résumé

Les capacités impressionnantes des modèles de langage de grande taille (LLMs) offrent une approche puissante pour repenser l'expérience de saisie des utilisateurs. Cet article présente Proofread, une nouvelle fonctionnalité de Gboard alimentée par un LLM côté serveur, permettant des corrections fluides au niveau de la phrase et du paragraphe en un seul clic. Nous décrivons ici le système complet, de la génération de données à la conception des métriques, en passant par le réglage du modèle et son déploiement. Pour obtenir des modèles de qualité suffisante, nous avons mis en place un pipeline de synthèse de données minutieusement adapté aux cas d'utilisation en ligne, conçu des métriques multidimensionnelles, et employé une approche de réglage en deux étapes pour acquérir le LLM dédié à cette fonctionnalité : le réglage par apprentissage supervisé (SFT) pour la qualité de base, suivi par le réglage par apprentissage par renforcement (RL) pour un affinement ciblé. Plus précisément, nous avons constaté qu'un réglage séquentiel sur les tâches de réécriture et de relecture donne les meilleurs résultats lors de l'étape SFT, et nous proposons des récompenses globales et directes lors de l'étape RL pour obtenir des améliorations supplémentaires. Des expériences approfondies sur un ensemble de référence annoté par des humains ont montré que notre modèle PaLM2-XS réglé atteint un taux de réussite de 85,56 %. Nous avons lancé cette fonctionnalité sur les appareils Pixel 8 en servant le modèle sur des TPU v5 dans Google Cloud, avec des milliers d'utilisateurs actifs quotidiens. La latence de service a été significativement réduite grâce à la quantification, l'inférence par compartiments, la segmentation de texte et le décodage spéculatif. Notre démonstration est disponible sur https://youtu.be/4ZdcuiwFU7I{Youtube}.

English

The impressive capabilities in Large Language Models (LLMs) provide a powerful approach to reimagine users' typing experience. This paper demonstrates Proofread, a novel Gboard feature powered by a server-side LLM in Gboard, enabling seamless sentence-level and paragraph-level corrections with a single tap. We describe the complete system in this paper, from data generation, metrics design to model tuning and deployment. To obtain models with sufficient quality, we implement a careful data synthetic pipeline tailored to online use cases, design multifaceted metrics, employ a two-stage tuning approach to acquire the dedicated LLM for the feature: the Supervised Fine Tuning (SFT) for foundational quality, followed by the Reinforcement Learning (RL) tuning approach for targeted refinement. Specifically, we find sequential tuning on Rewrite and proofread tasks yields the best quality in SFT stage, and propose global and direct rewards in the RL tuning stage to seek further improvement. Extensive experiments on a human-labeled golden set showed our tuned PaLM2-XS model achieved 85.56\% good ratio. We launched the feature to Pixel 8 devices by serving the model on TPU v5 in Google Cloud, with thousands of daily active users. Serving latency was significantly reduced by quantization, bucket inference, text segmentation, and speculative decoding. Our demo could be seen in https://youtu.be/4ZdcuiwFU7I{Youtube}.