Adaptación del clasificador seguro para el trabajo para texto en idioma malayo: Mejora de la alineación en el marco LLM-Ops.

Adapting Safe-for-Work Classifier for Malaysian Language Text: Enhancing Alignment in LLM-Ops Framework

July 30, 2024

Autores: Aisyah Razak, Ariff Nazhan, Kamarul Adha, Wan Adzhar Faiq Adzlan, Mas Aisyah Ahmad, Ammar Azman

cs.AI

Resumen

A medida que los modelos de lenguaje grandes (LLMs, por sus siglas en inglés) se integran cada vez más en flujos de trabajo operativos (LLM-Ops), surge una necesidad apremiante de contar con salvaguardias efectivas para garantizar interacciones seguras y alineadas, incluida la capacidad de detectar contenido potencialmente inseguro o inapropiado en varios idiomas. Sin embargo, los clasificadores seguros para el trabajo existentes se centran principalmente en texto en inglés. Para abordar esta brecha en el idioma malayo, presentamos un novedoso clasificador de texto seguro para el trabajo diseñado específicamente para contenido en idioma malayo. Al curar y anotar un conjunto de datos sin precedentes de texto en malayo que abarca múltiples categorías de contenido, entrenamos un modelo de clasificación capaz de identificar material potencialmente inseguro utilizando técnicas de procesamiento de lenguaje natural de vanguardia. Este trabajo representa un paso importante para permitir interacciones más seguras y filtrado de contenido para mitigar posibles riesgos y garantizar la implementación responsable de los LLMs. Para maximizar la accesibilidad y fomentar una mayor investigación para mejorar la alineación en LLM-Ops en el contexto malayo, el modelo se ha publicado de forma gratuita en https://huggingface.co/malaysia-ai/malaysian-sfw-classifier.

English

As large language models (LLMs) become increasingly integrated into operational workflows (LLM-Ops), there is a pressing need for effective guardrails to ensure safe and aligned interactions, including the ability to detect potentially unsafe or inappropriate content across languages. However, existing safe-for-work classifiers are primarily focused on English text. To address this gap for the Malaysian language, we present a novel safe-for-work text classifier tailored specifically for Malaysian language content. By curating and annotating a first-of-its-kind dataset of Malaysian text spanning multiple content categories, we trained a classification model capable of identifying potentially unsafe material using state-of-the-art natural language processing techniques. This work represents an important step in enabling safer interactions and content filtering to mitigate potential risks and ensure responsible deployment of LLMs. To maximize accessibility and promote further research towards enhancing alignment in LLM-Ops for the Malaysian context, the model is publicly released at https://huggingface.co/malaysia-ai/malaysian-sfw-classifier.