Superamento delle barriere linguistiche nella sanità: uno studio sui modelli linguistici a lungo termine in lingua araba.

Bridging Language Barriers in Healthcare: A Study on Arabic LLMs

January 16, 2025

Autori: Nada Saadi, Tathagata Raha, Clément Christophe, Marco AF Pimentel, Ronnie Rajan, Praveen K Kanithi

cs.AI

Abstract

Questo articolo indaga le sfide dello sviluppo di grandi modelli linguistici (LLM) competenti sia nella comprensione multilingue che nella conoscenza medica. Dimostriamo che semplicemente tradurre dati medici non garantisce prestazioni elevate in compiti clinici nella lingua di destinazione. I nostri esperimenti rivelano che la combinazione ottimale di lingue nei dati di addestramento varia significativamente tra diversi compiti medici. Scopriamo che modelli più grandi con proporzioni linguistiche attentamente calibrate raggiungono prestazioni superiori nei compiti clinici nella lingua madre. Inoltre, i nostri risultati suggeriscono che fare affidamento esclusivamente sul fine-tuning potrebbe non essere l'approccio più efficace per incorporare nuove conoscenze linguistiche nei LLM. Invece, potrebbero essere ancora necessari metodi di preaddestramento intensivi in termini di dati e calcolo per ottenere prestazioni ottimali in contesti medici multilingue. Queste scoperte forniscono indicazioni preziose per la costruzione di sistemi AI medici efficaci e inclusivi per diverse comunità linguistiche.

English

This paper investigates the challenges of developing large language models (LLMs) proficient in both multilingual understanding and medical knowledge. We demonstrate that simply translating medical data does not guarantee strong performance on clinical tasks in the target language. Our experiments reveal that the optimal language mix in training data varies significantly across different medical tasks. We find that larger models with carefully calibrated language ratios achieve superior performance on native-language clinical tasks. Furthermore, our results suggest that relying solely on fine-tuning may not be the most effective approach for incorporating new language knowledge into LLMs. Instead, data and computationally intensive pretraining methods may still be necessary to achieve optimal performance in multilingual medical settings. These findings provide valuable guidance for building effective and inclusive medical AI systems for diverse linguistic communities.