Adaptação de Classificador Seguro para o Trabalho para Texto em Língua Malaia: Melhorando o Alinhamento no Framework LLM-Ops

Adapting Safe-for-Work Classifier for Malaysian Language Text: Enhancing Alignment in LLM-Ops Framework

July 30, 2024

Autores: Aisyah Razak, Ariff Nazhan, Kamarul Adha, Wan Adzhar Faiq Adzlan, Mas Aisyah Ahmad, Ammar Azman

cs.AI

Resumo

À medida que os modelos de linguagem grandes (LLMs) são cada vez mais integrados aos fluxos operacionais (LLM-Ops), há uma necessidade urgente de diretrizes eficazes para garantir interações seguras e alinhadas, incluindo a capacidade de detectar conteúdo potencialmente inseguro ou inadequado em diferentes idiomas. No entanto, os classificadores seguros para o ambiente de trabalho existentes estão principalmente focados em texto em inglês. Para preencher essa lacuna para a língua malaia, apresentamos um novo classificador de texto seguro para o ambiente de trabalho, adaptado especificamente para conteúdo em língua malaia. Ao criar e anotar um conjunto de dados inédito de texto malaio abrangendo várias categorias de conteúdo, treinamos um modelo de classificação capaz de identificar material potencialmente inseguro usando técnicas de processamento de linguagem natural de ponta. Este trabalho representa um passo importante para possibilitar interações mais seguras e filtragem de conteúdo para mitigar riscos potenciais e garantir a implantação responsável de LLMs. Para maximizar a acessibilidade e promover pesquisas adicionais para aprimorar o alinhamento em LLM-Ops para o contexto malaio, o modelo é publicamente disponibilizado em https://huggingface.co/malaysia-ai/malaysian-sfw-classifier.

English

As large language models (LLMs) become increasingly integrated into operational workflows (LLM-Ops), there is a pressing need for effective guardrails to ensure safe and aligned interactions, including the ability to detect potentially unsafe or inappropriate content across languages. However, existing safe-for-work classifiers are primarily focused on English text. To address this gap for the Malaysian language, we present a novel safe-for-work text classifier tailored specifically for Malaysian language content. By curating and annotating a first-of-its-kind dataset of Malaysian text spanning multiple content categories, we trained a classification model capable of identifying potentially unsafe material using state-of-the-art natural language processing techniques. This work represents an important step in enabling safer interactions and content filtering to mitigate potential risks and ensure responsible deployment of LLMs. To maximize accessibility and promote further research towards enhancing alignment in LLM-Ops for the Malaysian context, the model is publicly released at https://huggingface.co/malaysia-ai/malaysian-sfw-classifier.