Behebt alle Fehler mit einem Fingertipp.

Proofread: Fixes All Errors with One Tap

June 6, 2024

Autoren: Renjie Liu, Yanxiang Zhang, Yun Zhu, Haicheng Sun, Yuanbo Zhang, Michael Xuelin Huang, Shanqing Cai, Lei Meng, Shumin Zhai

cs.AI

Zusammenfassung

Die beeindruckenden Fähigkeiten von Large Language Models (LLMs) bieten einen leistungsstarken Ansatz, um die Eingabeerfahrung der Benutzer neu zu gestalten. Dieser Artikel präsentiert Proofread, eine innovative Gboard-Funktion, die von einem serverseitigen LLM in Gboard unterstützt wird und eine nahtlose Korrektur auf Satzebene und Absatzebene mit einem einzigen Fingertipp ermöglicht. Wir beschreiben in diesem Artikel das vollständige System, angefangen bei der Datengenerierung, der Metrikgestaltung bis hin zur Modellanpassung und Bereitstellung. Um Modelle von ausreichender Qualität zu erhalten, implementieren wir eine sorgfältige Daten-Synthesepipeline, die auf Online-Anwendungsfälle zugeschnitten ist, entwerfen vielschichtige Metriken, nutzen einen zweistufigen Anpassungsansatz, um das dedizierte LLM für die Funktion zu erhalten: das Supervised Fine Tuning (SFT) für die grundlegende Qualität, gefolgt vom Reinforcement Learning (RL) Anpassungsansatz für gezielte Verfeinerungen. Insbesondere stellen wir fest, dass das sequenzielle Feintuning bei Rewrite- und Proofread-Aufgaben die beste Qualität in der SFT-Phase liefert, und schlagen globale und direkte Belohnungen in der RL-Anpassungsphase vor, um weitere Verbesserungen zu erzielen. Umfangreiche Experimente an einem von Menschen bewerteten Golden Set zeigten, dass unser abgestimmtes PaLM2-XS-Modell einen guten Anteil von 85,56\% erreichte. Wir haben die Funktion für Pixel 8-Geräte gestartet, indem wir das Modell auf TPU v5 in der Google Cloud bereitgestellt haben, mit Tausenden von täglich aktiven Benutzern. Die Bereitstellungs-Latenz wurde durch Quantisierung, Bucket-Inferenz, Textsegmentierung und spekulative Dekodierung signifikant reduziert. Unsere Demo ist unter https://youtu.be/4ZdcuiwFU7I{Youtube} verfügbar.

English

The impressive capabilities in Large Language Models (LLMs) provide a powerful approach to reimagine users' typing experience. This paper demonstrates Proofread, a novel Gboard feature powered by a server-side LLM in Gboard, enabling seamless sentence-level and paragraph-level corrections with a single tap. We describe the complete system in this paper, from data generation, metrics design to model tuning and deployment. To obtain models with sufficient quality, we implement a careful data synthetic pipeline tailored to online use cases, design multifaceted metrics, employ a two-stage tuning approach to acquire the dedicated LLM for the feature: the Supervised Fine Tuning (SFT) for foundational quality, followed by the Reinforcement Learning (RL) tuning approach for targeted refinement. Specifically, we find sequential tuning on Rewrite and proofread tasks yields the best quality in SFT stage, and propose global and direct rewards in the RL tuning stage to seek further improvement. Extensive experiments on a human-labeled golden set showed our tuned PaLM2-XS model achieved 85.56\% good ratio. We launched the feature to Pixel 8 devices by serving the model on TPU v5 in Google Cloud, with thousands of daily active users. Serving latency was significantly reduced by quantization, bucket inference, text segmentation, and speculative decoding. Our demo could be seen in https://youtu.be/4ZdcuiwFU7I{Youtube}.