Adattamento del Classificatore Safe-for-Work per Testi in Lingua Malese: Miglioramento dell'Allineamento nel Framework LLM-Ops

Adapting Safe-for-Work Classifier for Malaysian Language Text: Enhancing Alignment in LLM-Ops Framework

July 30, 2024

Autori: Aisyah Razak, Ariff Nazhan, Kamarul Adha, Wan Adzhar Faiq Adzlan, Mas Aisyah Ahmad, Ammar Azman

cs.AI

Abstract

Man mano che i modelli linguistici di grandi dimensioni (LLM) vengono sempre più integrati nei flussi di lavoro operativi (LLM-Ops), sorge l'esigenza urgente di implementare meccanismi di controllo efficaci per garantire interazioni sicure e allineate, inclusa la capacità di rilevare contenuti potenzialmente non sicuri o inappropriati in diverse lingue. Tuttavia, i classificatori esistenti per contenuti sicuri per il lavoro si concentrano principalmente su testi in inglese. Per colmare questa lacuna per la lingua malese, presentiamo un innovativo classificatore di testi sicuri per il lavoro specificamente progettato per contenuti in lingua malese. Curando e annotando un dataset senza precedenti di testi malesi che coprono molteplici categorie di contenuti, abbiamo addestrato un modello di classificazione in grado di identificare materiale potenzialmente non sicuro utilizzando tecniche all'avanguardia di elaborazione del linguaggio naturale. Questo lavoro rappresenta un passo importante verso l'abilitazione di interazioni più sicure e il filtraggio dei contenuti per mitigare potenziali rischi e garantire un impiego responsabile degli LLM. Per massimizzare l'accessibilità e promuovere ulteriori ricerche volte a migliorare l'allineamento negli LLM-Ops nel contesto malese, il modello è stato reso pubblico all'indirizzo https://huggingface.co/malaysia-ai/malaysian-sfw-classifier.

English

As large language models (LLMs) become increasingly integrated into operational workflows (LLM-Ops), there is a pressing need for effective guardrails to ensure safe and aligned interactions, including the ability to detect potentially unsafe or inappropriate content across languages. However, existing safe-for-work classifiers are primarily focused on English text. To address this gap for the Malaysian language, we present a novel safe-for-work text classifier tailored specifically for Malaysian language content. By curating and annotating a first-of-its-kind dataset of Malaysian text spanning multiple content categories, we trained a classification model capable of identifying potentially unsafe material using state-of-the-art natural language processing techniques. This work represents an important step in enabling safer interactions and content filtering to mitigate potential risks and ensure responsible deployment of LLMs. To maximize accessibility and promote further research towards enhancing alignment in LLM-Ops for the Malaysian context, the model is publicly released at https://huggingface.co/malaysia-ai/malaysian-sfw-classifier.