Correção de Texto: Corrija Todos os Erros com Um Toque

Proofread: Fixes All Errors with One Tap

June 6, 2024

Autores: Renjie Liu, Yanxiang Zhang, Yun Zhu, Haicheng Sun, Yuanbo Zhang, Michael Xuelin Huang, Shanqing Cai, Lei Meng, Shumin Zhai

cs.AI

Resumo

As impressionantes capacidades dos Modelos de Linguagem de Grande Escala (LLMs) oferecem uma abordagem poderosa para reinventar a experiência de digitação dos usuários. Este artigo apresenta o Proofread, uma nova funcionalidade do Gboard alimentada por um LLM no servidor, permitindo correções em nível de frase e parágrafo com um único toque. Descrevemos o sistema completo neste artigo, desde a geração de dados, design de métricas até o ajuste e implantação do modelo. Para obter modelos com qualidade suficiente, implementamos um pipeline cuidadoso de síntese de dados adaptado a casos de uso online, projetamos métricas multifacetadas e empregamos uma abordagem de ajuste em duas etapas para adquirir o LLM dedicado à funcionalidade: o Ajuste Fino Supervisionado (SFT) para qualidade fundamental, seguido pela abordagem de ajuste por Aprendizado por Reforço (RL) para refinamento direcionado. Especificamente, descobrimos que o ajuste sequencial em tarefas de Reescrever e Revisar produz a melhor qualidade na etapa de SFT, e propomos recompensas globais e diretas na etapa de ajuste RL para buscar melhorias adicionais. Experimentos extensivos em um conjunto de dados rotulado por humanos mostraram que nosso modelo PaLM2-XS ajustado alcançou uma taxa de 85,56% de boas correções. Lançamos a funcionalidade para dispositivos Pixel 8, servindo o modelo em TPU v5 no Google Cloud, com milhares de usuários ativos diários. A latência de serviço foi significativamente reduzida por quantização, inferência em lotes, segmentação de texto e decodificação especulativa. Nossa demonstração pode ser vista em https://youtu.be/4ZdcuiwFU7I{Youtube}.

English

The impressive capabilities in Large Language Models (LLMs) provide a powerful approach to reimagine users' typing experience. This paper demonstrates Proofread, a novel Gboard feature powered by a server-side LLM in Gboard, enabling seamless sentence-level and paragraph-level corrections with a single tap. We describe the complete system in this paper, from data generation, metrics design to model tuning and deployment. To obtain models with sufficient quality, we implement a careful data synthetic pipeline tailored to online use cases, design multifaceted metrics, employ a two-stage tuning approach to acquire the dedicated LLM for the feature: the Supervised Fine Tuning (SFT) for foundational quality, followed by the Reinforcement Learning (RL) tuning approach for targeted refinement. Specifically, we find sequential tuning on Rewrite and proofread tasks yields the best quality in SFT stage, and propose global and direct rewards in the RL tuning stage to seek further improvement. Extensive experiments on a human-labeled golden set showed our tuned PaLM2-XS model achieved 85.56\% good ratio. We launched the feature to Pixel 8 devices by serving the model on TPU v5 in Google Cloud, with thousands of daily active users. Serving latency was significantly reduced by quantization, bucket inference, text segmentation, and speculative decoding. Our demo could be seen in https://youtu.be/4ZdcuiwFU7I{Youtube}.