Una Solución Basada en la Web para el Aprendizaje Federado con Automatización Basada en LLM.

A Web-Based Solution for Federated Learning with LLM-Based Automation

August 23, 2024

Autores: Chamith Mawela, Chaouki Ben Issaid, Mehdi Bennis

cs.AI

Resumen

El Aprendizaje Federado (FL) ofrece un enfoque prometedor para el aprendizaje automático colaborativo en dispositivos distribuidos. Sin embargo, su adopción se ve obstaculizada por la complejidad de construir arquitecturas de comunicación confiables y la necesidad de experiencia tanto en aprendizaje automático como en programación de redes. Este documento presenta una solución integral que simplifica la orquestación de tareas de FL mientras integra automatización basada en intenciones. Desarrollamos una aplicación web fácil de usar que admite el algoritmo de promedio federado (FedAvg), lo que permite a los usuarios configurar parámetros a través de una interfaz intuitiva. La solución backend gestiona eficientemente la comunicación entre el servidor de parámetros y los nodos periféricos. También implementamos algoritmos de compresión y programación de modelos para optimizar el rendimiento de FL. Además, exploramos la automatización basada en intenciones en FL utilizando un Modelo de Lenguaje Afinado (LLM) entrenado en un conjunto de datos personalizado, lo que permite a los usuarios realizar tareas de FL utilizando indicaciones de alto nivel. Observamos que la solución automatizada basada en LLM logra una precisión de prueba comparable a la solución estándar basada en web, al tiempo que reduce los bytes transferidos hasta un 64% y el tiempo de CPU hasta un 46% para tareas de FL. Además, aprovechamos la búsqueda de arquitectura neuronal (NAS) y la optimización de hiperparámetros (HPO) utilizando LLM para mejorar el rendimiento. Observamos que al utilizar este enfoque la precisión de prueba puede mejorar entre un 10% y un 20% para las tareas de FL realizadas.

English

Federated Learning (FL) offers a promising approach for collaborative machine learning across distributed devices. However, its adoption is hindered by the complexity of building reliable communication architectures and the need for expertise in both machine learning and network programming. This paper presents a comprehensive solution that simplifies the orchestration of FL tasks while integrating intent-based automation. We develop a user-friendly web application supporting the federated averaging (FedAvg) algorithm, enabling users to configure parameters through an intuitive interface. The backend solution efficiently manages communication between the parameter server and edge nodes. We also implement model compression and scheduling algorithms to optimize FL performance. Furthermore, we explore intent-based automation in FL using a fine-tuned Language Model (LLM) trained on a tailored dataset, allowing users to conduct FL tasks using high-level prompts. We observe that the LLM-based automated solution achieves comparable test accuracy to the standard web-based solution while reducing transferred bytes by up to 64% and CPU time by up to 46% for FL tasks. Also, we leverage the neural architecture search (NAS) and hyperparameter optimization (HPO) using LLM to improve the performance. We observe that by using this approach test accuracy can be improved by 10-20% for the carried out FL tasks.